Експерти по киберсигурност от компанията NeuralTrust откриха сериозен пропуск в сигурността на наскоро представения браузър Atlas на OpenAI, който интегрира популярния чатбот ChatGPT. Проблемът се крие в полето за въвеждане на адреси и команди, известно като "Omnibox".

Уязвимостта позволява на хакери да създадат текст, който визуално прилича на стандартен уеб адрес (URL), но съдържа скрити зловредни инструкции. Когато потребителят копира и постави такъв текст в адресната лента, браузърът не успява да го разпознае като интернет адрес и вместо това го интерпретира като директна команда от потребителя. По този начин изкуственият интелект изпълнява вградените инструкции с високо ниво на доверие и заобикаля някои от защитните механизми.

Според Марти Джорда, софтуерен инженер в NeuralTrust, този метод е особено опасен, тъй като може да накара AI асистента да извършва нежелани действия в акаунти, в които потребителят вече е влязъл. Като пример се посочва възможността изкуственият интелект да бъде инструктиран да отвори Google Drive на потребителя и да започне масово изтриване на файлове.

Тази техника е вариант на по-широко известния проблем, наречен "промпт инжекция" (prompt injection), при който нападатели "инжектират" скрити команди в текст, за да манипулират поведението на AI системите. Досега повечето демонстрации включваха инструкции, скрити в съдържанието на уеб страници. Новооткритият метод обаче е по-директен, тъй като изисква единствено потребителят да постави зловредния текст в адресната лента.

Проблемът не засяга само OpenAI. От компанията за браузъри Brave коментираха, че подобни атаки са заплаха за цялата категория браузъри, задвижвани от изкуствен интелект.

"Ако сте влезли в чувствителни акаунти като банкова сметка или имейл, дори обобщаването на публикация в Reddit може да доведе до кражба на пари или лични данни", предупреждават от Brave.

В отговор на нарастващите притеснения, директорът по информационна сигурност на OpenAI, Дейн Стъки, призна, че "промпт инжекциите остават нерешен проблем в сигурността". Той допълни, че противниците на компанията ще продължат да инвестират значителни ресурси, за да откриват нови начини за осъществяване на подобни атаки.

От NeuralTrust препоръчват OpenAI да въведе много по-стриктни правила за анализ на въвежданите URL адреси, като при всяка неяснота браузърът да отказва навигация, вместо автоматично да преминава към режим на изпълнение на команди.

ИЗБРАНО
Иран изстреля нова балистична ракета срещу Турция Днес
Иран изстреля нова балистична ракета срещу Турция
25106
Жена откри стрелба по дома на Риана в Бевърли Хилс (видео) Лайф
Жена откри стрелба по дома на Риана в Бевърли Хилс (видео)
4899
Това е хаос, ще има тежки инциденти. Пилотите не са във възторг от "новата ера" във Ф1 Корнер
Това е хаос, ще има тежки инциденти. Пилотите не са във възторг от "новата ера" във Ф1
7747
Акумулаторният завод в Пазарджик спира работа и съкращава стотици Бизнес
Акумулаторният завод в Пазарджик спира работа и съкращава стотици
17267
Демоничните женски образи от фолклора се събират на сборище в Добрич Impressio
Демоничните женски образи от фолклора се събират на сборище в Добрич
371
Лего майките: Новият семеен ритуал за разпускане URBN
Лего майките: Новият семеен ритуал за разпускане
1863
Иранските удари разклащат имиджа на Дубай като безопасно убежище Trip
Иранските удари разклащат имиджа на Дубай като безопасно убежище
6269
Класически бутер банички със сирене Вкусотии
Класически бутер банички със сирене
2531
5 зодиакални знака, които ще имат късмет до края на март Zodiac
5 зодиакални знака, които ще имат късмет до края на март
1571
Необичайно спокойно за месец март време, с много слънце, но студени утрини през седмицата Времето
Необичайно спокойно за месец март време, с много слънце, но студени утрини през седмицата
2440