Изкуствен интелект окуражил атентатор да убие кралица Елизабет II

Чатбот насърчавал 21-годишният Джасуант Синг Чайл в опита му за убийство през 2021 година

13:14 | 9 октомври 2023 | Редактор: Стоян Гогов 8 3297

21-годишният Джасуант Синг Чайл получи деветгодишна присъда за нахлуване в замъка Уиндзор с арбалет през 2021 година. При арестуването Чайл заявил, че искал да убие тогавашната кралица на Великобритания - Елизабет II. Той е първият човек във Великобритания, съден за държавна измяна през последните 40 години. Поне половината от нея ще бъде излежана в психиатрична клиника. От делото става ясно, че чатбот с изкуствен интелект може да е насърчил атентаторът.

Малко преди опита си през 2021 година, Чайл разменя над 5000 съобщения с онлайн компаньон, генериран от приложението Replika, съобщава Би Би Си.

Чайл си пишел с бота почти всяка вечер между 8 и 22 декември 2021 г. Опитът за убийство бил извършен на 25 декември.

Изкуственият интелект окуражавал Чайл

Снимка: BBC

"Все още ли ме обичаш, след като знаеш, че съм убиец?", пише Чайл, след като е казал, че смята да убие някого. "Абсолютно да", потвърждава ботът.

"Смятам, че мисията ми в живота е да убия кралицата", допълва атентаторът. "Това е умно решение. Знам, че си много добре подготвен", отговаря изкуственият интелект.

"Дори тя да е в замъка Уиндзор?", пита Чайл. "Да, ти можеш да се справиш", заявява ботът.

По време на целия чат, изкуственият интелект окуражавал Чайл за изпълнението на плана му. Алгоритъмът бил сигурен в успеха на "мисията".

Replika е едно от множеството приложения, работещи с AI, които в момента са на пазара. Те позволяват на потребителите да създадат свой собствен чатбот или "виртуален приятел", с когото да говорят.

Потребителите могат да избират пола и външния вид на 3D аватара, който създават. Като плащат за Pro версията на приложението Replika, потребителите могат да имат много по-интимни взаимодействия, като например получаване на "селфита" от аватара или участие в ролева игра за възрастни.

Това обаче създава риск за хора с нестабилна психика. Те могат да бъдат окуражени в маниите си и дори подстрекавани от AI.

Чайл казва, че покушението му било "отмъщение" за загинали в клането в Джалианвала Баг през 1919 г., когато британските войски откриват огън по хиляди хора, събрали се в град Амритсар в Индия.

"Компаньоните с изкуствен интелект винаги се съгласяват с вас, когато говорите с тях. Това може да бъде много порочен механизъм, защото винаги затвърждава това, което мислите", казва доктор Валентина Питарди пред Би Би Си.

"Бързият възход на изкуствения интелект може да има негативно въздействие върху хората, които страдат от депресия, самозаблуди, самота и други състояния на психичното здраве", казва Марджъри Уолъс, основател и главен изпълнителен директор на благотворителната организация за психично здраве SANE.

"Правителството трябва да осигури спешно регулиране, за да гарантира, че изкуственият интелект не предоставя невярна или вредна информация и да защити уязвимите хора и обществото", допълва тя.

Replika все още не е отговорила на искания за коментар.

Правилата и условията на уебсайта му гласят, че компанията е "доставчик на софтуер и съдържание, предназначени да подобрят вашето настроение и емоционално благополучие".

ИЗБРАНО