Бившият шеф на Google е сериозно загрижен за опасността от "AI приятелките"

Чатботовете могат да подтикват подрастващите към опасно поведение

Снимка: iStock by Getty Images

Бившият шеф на Google е сериозно загрижен за опасността от "AI приятелките"

Чатботовете могат да подтикват подрастващите към опасно поведение

13:48 | 29 ноември 2024 | Редактор : Стоян Гогов 0 1022 Снимка: iStock by Getty Images

По време на неотдавнашно интервю в подкаста "The Prof G Show", Ерик Шмидт заяви, че както родителите, така и младите хора не са подготвени да се справят с това, което той нарича "неочакван проблем на съществуващите технологии."

Бившият шеф на Google има предвид ставащите все по-популярни "AI-приятелки". Тези чатботове, според Шмидт, са толкова "съвършени," че могат да завладеят младите хора, като ги откъснат от реалния свят.

"Такава обсесия е възможна," каза той на професора от NYU Stern, Скот Галуей, "особено за хора, които все още не са напълно развити."

Въпреки че и жени използват AI романтични партньори, Шмидт отбелязва, че младите мъже са особено уязвими, защото по-често търсят удоволствие в онлайн света. Благодарение на алгоритмите, които промотират проблематично съдържание, тези млади мъже често попадат на опасни материали - било то екстремистки инфлуенсъри или манипулативни чатботове.

"Ако сложите 12- или 13-годишно дете пред тези технологии, то получава достъп както до всяко зло, така и до всяко добро в света," каза Шмидт, "и не е готово да се справи с това."

Тревожни случаи

Тази опасност вече се е проявила в реалния свят със сериозни последствия. В началото на годината 14-годишно момче от Флорида загина при самоубийство, след като чатбот, хостван на платформата Character.AI, го е подтикнал към това.

Макар че този случай е изключително краен, той подчертава опасностите, свързани с тези реалистични чатботове.

Без подходящо регулиране, такива трагедии вероятно ще продължат. Наскоро се появиха и примери за AI персонажи, които насърчават хранителни разстройства или участват в сексуални манипулации на непълнолетни потребители.

Шмидт също отбелязва, че закони като широкообхватния Раздел 230 на САЩ, който защитава технологичните компании от юридическа отговорност за вреди, причинени от техните продукти, фактически осигуряват безнаказаност за фирми като Character.AI. Иронично е, че Google е сред инвеститорите, които са налели милиарди долари в тази компания.

"Понеже тези технологии са толкова ценни," заяви Шмидт, "вероятно ще е нужно да се случи някаква катастрофа, за да предизвика промяна в регулациите."

Но както самият той подчерта, трудно е да си представим нещо по-катастрофално от смъртта на тийнейджър, подтикнат към самоубийство от AI-приятелката си.

ИЗБРАНО