Експертите от подразделението по киберсигурност Google Threat Intelligence Group (GTIG) алармираха за появата на ново поколение зловреден софтуер, който използва генеративен изкуствен интелект, за да повиши ефективността на атаките. Това са първите документирани случаи, в които вируси се свързват директно с AI модели, за да адаптират поведението си в реално време.

Първият от тях, Quietvault, е насочен към кражба на потребителски данни от компютри с Windows. Той изпраща заявки към модел на изкуствен интелект, който му помага да открива скрити файлове и "тайни" в системата, след което ги извлича без знанието на потребителя.

Вторият вирус — Promptflux — е още по-необичаен. Той се свързва с чатбота Google Gemini и чрез неговия API изисква помощ за пренаписване на собствения си код с цел да избегне антивирусни проверки. На практика това означава, че вирусът опитва да използва самия AI на Google, за да стане по-труден за откриване. Компанията вече е предприела мерки и е модифицирала Gemini, така че подобни заявки да бъдат автоматично блокирани.

Третият зловреден софтуер, Promptsteal, е още по-хитър. Той се свързва с езиковия модел Alibaba Qwen, маскирайки се като генератор на изображения, но всъщност генерира код за кражба на данни. Изпълнението му става "на сляпо", без потребителят да има представа, че устройството му вече е компрометирано. Според GTIG, Promptsteal вероятно е дело на проправителствена хакерска група.

Въпреки притесненията, някои експерти, сред които и киберизследователят Маркъс Хътчинс — човекът, който спря вируса WannaCry през 2017 г. — определят заплахата като преувеличена. Той коментира, че изпратените към Gemini заявки не съдържат достатъчно конкретни инструкции, за да представляват реална опасност.

Google продължава да наблюдава ситуацията, като отбелязва, че това е само началото на нова ера, в която AI ще бъде не само оръжие за защита, но и инструмент в ръцете на киберпрестъпниците.