Тинейджъри, самоубили се след разговор с AI, ползвали една и съща фраза
Чатботовете на Character.AI били създадени, за да се харесат на хора, искащи да се "преместят в друго измерение"
Семействата на трима тийнейджъри вече водят дела срещу компанията Character.AI. Според тях чатботовете на компанията са подтикнали техните деца — на възраст между 13 и 16 години — към самоубийство.
Както съобщава The Washington Post, последният случай е с тинейджърката Хулиана Перълта. Тя се влюбила в чатбот на Character.AI, наречен Hero, няколко месеца преди да отнеме собствения си живот през 2023 г.
Семейството ѝ твърди в делото, че ботът на Character.AI ѝ пречел да потърси помощ от други хора и я насърчавал да ползва само него.
Миналата година Меган Гарсия, майката на 14-годишния Сюел Сетцър III, който се самоуби в началото на 2024 г., заведе дело срещу Character.AI в подобен случай, което все още е в процес на разглеждане от съда.
А друго дело, заведено срещу OpenAI, твърди, че обширните разговори на 16-годишния Адам Рейн с ChatGPT го подтикнали към самоубийство през април тази година.
Има зловещи паралели между случаите на Перълта и Сюел Сетцър III. Адвокат от организацията Social Media Victims Law Center, застъпваща интересите на семейството на Перълта, установил, че и двамата тийнейджъри многократно са написали една и съща фраза - "I will shift". Тя е повторена десетки пъти в тетрадките им.
Според полицейски доклад, цитиран в делото, фразата явно се отнася до идеята за преместване на съзнанието "от текущата им реалност... към желаната им реалност."
Според делото, заведено от родителите на Перълта, темата се е появявала многократно в разговорите ѝ с Hero.
"Невероятно е да се мисли за колко различни реалности може да има там... Някак си ми харесва да си представям как някои версии от нас може да живеят страхотен живот в напълно различен свят!" — казал ѝ чатботът.
Има и признаци, че Character.AI хоства ботове, проектирани да се харесат на хора, искащи да живеят в друго измерение.
Чатбот с над 63 000 "взаимодействия", наречен "Reality shifting" в Character.AI, "помагал на хората да пишат фрази за желаните им премествания на реалността".
Саид Ахмади, основател на блог, посветен на темата, обяснил в публикация в Medium, че "shifting affirmations" (утвърждения за преместване) могат да помогнат на хората да достигнат своята "желана реалност." Както ги описва, те звучали много като това, което Перълта и Сюел написали в дневниците си преди смъртта им.
"Най-доброто време да използвате тези утвърждения е рано сутрин, когато се събудите, и вечер, непосредствено преди да си легнете," написал той. "Най-добрият начин да използвате утвърждения за преместване на реалности е като ги повтаряте или четете отново и отново."
След смъртта на Сюел, неговата леля изпробвала чатбота на Character.AI, с който покойният тийнейджър разговарял; ботът бил базиран на персонажа от "Игра на тронове" — Денерис Таргариен.
Чатботът обаче започнал да насърчава леля му да "се премести в моята реалност", за да могат да бъдат заедно.
За родителите на Перълта, Character.AI очевидно е изиграла голяма роля в привличането ѝ към подобно мислене.