Асистентът с изкуствен интелект на Meta твърди, че неотдавнашният опит за убийство на бившия президент Доналд Тръмп не се е случил. Неверният и манипулативен отговор предизвика скандал, който трябваше да бъде потушен от един от изпълнителните директори на компанията, пише The Verge.

В публикация в блога на компанията, Джоел Каплан, глобален ръководител на политиката на Meta, нарича отговорите на своя AI "жалки".

По думите му Meta AI първо е бил програмиран да не отговаря на въпроси относно опита за убийство, но компанията е премахнала това ограничение, след като хората са започнали да забелязват неадекватните резултати.

Той признава, че "в малък брой случаи Meta AI продължава да предоставя неправилни отговори, включително понякога твърдения, че събитието не се е случило изобщо". По думите му се работи по отстраняването на проблема.

"Тези типове реакции се наричат ​​халюцинации, което е проблем в цялата индустрия, който виждаме във всички генеративни AI системи, и е постоянно предизвикателство за това как AI обработва събития в реално време в бъдеще", заключва Каплан.

Откакто ChatGPT излезе на сцената, технологичната индустрия се бори с това как да ограничи склонността на генеративния AI към лъжи. Някои играчи, като Meta, се опитаха да "заземят" своите чатботове с качествени данни и резултати от търсене в реално време като начин да компенсират халюцинациите.

Примерът с опита за убийството на Тръмп показва, как последната дума относно резултатите от AI имат неговите създатели.

Оказва се, Meta не е единственият технологичен гигант, чийто резултати отричат опита за убийството на Тръмп.