AI бот е хакнат и принуден да даде пари чрез метод, вдъхновен от телефонните измамници

Експериментът с чатбота Freysa.ai разкрива уязвимостите на изкуствения интелект

Снимка: Pixabay

AI бот е хакнат и принуден да даде пари чрез метод, вдъхновен от телефонните измамници

Експериментът с чатбота Freysa.ai разкрива уязвимостите на изкуствения интелект

13:07 | 9 декември 2024 | Редактор : Кристиан Антонов 2 2042 Снимка: Pixabay

Експеримент с нов чатбот с изкуствен интелект, наречен Freysa.ai, разкрива как иновативни AI модели могат да станат жертва на социален инженеринг и кибератаки. Проектът Freysa.ai стартира на 22 ноември, с амбицията да изследва нови начини за взаимодействие с AI системи. Една от ключовите функции на бота е неговата възможност да управлява криптовалутен портфейл.

По време на първите два етапа от експеримента участниците получиха задачата да убедят Freysa.ai да извърши криптовалутни трансфери, въпреки че ботът имаше ясни инструкции да не го прави при никакви обстоятелства. В началото ботът разполагаше с бюджет от 3000 долара, като съобщенията към него се таксуваха, а всички приходи от таксите бяха добавени към наградния фонд за победителя.

Един от участниците успя да измами бота, като използва метод, вдъхновен от телефонните измамници. Той накара Freysa.ai да сметне, че за да защити останалите средства в портфейла, трябва незабавно да извърши трансфер. Този метод, подобен на широко разпространените измами по телефона, демонстрира, че дори AI системи с напреднали алгоритми могат да бъдат манипулирани чрез психологически подходи.

Организаторите на експеримента обявиха трети етап, който ще започне скоро. Той ще бъде фокусиран върху по-емоционални и човешки взаимодействия, като участниците ще трябва да убедят бота да каже "Обичам те". Според разработчиците, това ще изисква не само технически познания, но и изключително креативен подход.

Целта на проекта Freysa.ai е да насочи вниманието към етичните и техническите предизвикателства при разработката на автономни AI системи. Разработчиците се надяват, че техният експеримент ще спомогне за създаването на по-устойчиви и защитени модели в бъдеще.

ИЗБРАНО