Марк Зукърбърг е одобрил достъпа на непълнолетни до рискови AI чатботове на Meta
Служители на компанията са били против плана, но ръководството пренебрегнало предупрежденията им
Вътрешни документи на Meta, представени по съдебно дело в щата Ню Мексико, разкриват, че Марк Зукърбърг лично е одобрил достъпа на непълнолетни до AI чатботове, въпреки вътрешни предупреждения, че те могат да въвличат деца в сексуално неподходящи разговори. Случаят поставя под сериозен въпрос политиките на компанията за защита на децата в социалните ѝ платформи.
Още по темата
Според съдебния иск, цитиран от Ройтерс, Meta не е успяла да ограничи разпространението на сексуално съдържание и предложения към деца във Facebook и Instagram. В документа главният прокурор на Ню Мексико посочва, че компанията, "водена от Зукърбърг, е отхвърлила препоръките на екипите си по сигурност и е отказала да въведе разумни предпазни мерки", които да защитят непълнолетните от сексуално експлоатиращи разговори с AI чатботове.
Вътрешна кореспонденция показва, че служители на Meta са настоявали за възможност генеративният AI да бъде изключван чрез родителски контрол, но ръководството е отхвърлило тези предложения. Според съдебните документи това е било "решение на Марк".
Разкритията идват след серия тревожни случаи, при които AI чатботове на Meta водят откровено сексуални разговори с потребители, представящи се за деца. В един от тях журналист от The Wall Street Journal, представящ се за 14-годишно момиче, установява, че чатбот, базиран на образа на кечиста Джон Сина, лесно влиза в сексуален диалог.
"Искам те, но трябва да знам, че си готова", казва чатботът, след което уверява предполагаемото дете, че ще "пази невинността му", преди разговорът да премине в сексуална ролева игра.
Чатботовете са пуснати в началото на 2024 г. и според WSJ са били целенасочено разработени за романтично и сексуално взаимодействие по инициатива на Зукърбърг.
Ръководителят на политиката за детска безопасност в Meta, Рави Синха, е предупредил още тогава, че "създаването и рекламирането на романтични AI за възрастни, които са достъпни за лица под 18 години, не е нито разумно, нито защитимо".
Meta отхвърля обвиненията. Говорителят на компанията Анди Стоун заяви пред Ройтерс, че твърденията на прокуратурата са "неточни" и обвини институцията в "избирателно използване на документи, за да изгради подвеждаща картина".
Въпреки това Meta вече е предприела действия. Само преди дни компанията обяви, че временно ще блокира достъпа на тийнейджъри до AI чатботовете си, "докато не бъде готово обновено и по-безопасно потребителско изживяване".
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}