Изкуственият интелект се учи да лъже и мами
GPT-4 проявява измамно поведение в прости тестови сценарии в 99,16% от времето.
Обратно в новинатаКоментари - Изкуственият интелект се учи да лъже и мами | IT.dir.bg
Коментари
При кратък разговор средностатистическия човек изрича до пет твърдения които могат да бъда характеризирани като лъжа, е, някои от неверните твърдения се дължат на куртоазия, непознаване на темата на разговора и други "невинни" причини... но какво искаме от ИИ който се обучава като ни копира;)
Това е така от самото начало на Големите Езикови Модели. Ако АИ-то не знае нещо, тогава си изфантазирва някакво обяснение - това са и прочутите халюционации. Преди се откриваха сравнително лесно - бяха твърде екзотични. Сега обаче изглеждат съвсем реалистично. Проблема е, че АИ-то става все по-ловко в лъжите си и все по-трудно да се разпознава, че лъже! Всички АИ-та, които съм опитвал, го правят! Според мен това е и истинския проблем с АИ-тата, заради които след 1-2 години ще сме ги забравили... Как да се довериш на съвет, за който нямаш никаква увереност, че не е нафантазиран, просто защото днешните АИ-та са така обучени, че никога да не си признават, че не знаят!
"Изкуственият интелект се учи да лъже и мами" аз знам още 240 такива в нашия парламент, начело разбира се са "дебелите" версии ББ и ДП
Ключовата дума е че "може" да е бил подтикнат да лъже. А може и да не е... тогава какво правим?
Зададох прост въпрос: каква е разликата между контрибютър роул във Пауър би ай и мс фабрик Даде ми много добре изглеждащ и подробен отговор Само че не беше верен, ама изобщо не беше
За съжаление, много скоро страховитите филми с изкуствен интелект, които гледахме в последните 20 години, ще ни изглеждат като сладникава комедия. То клоква е страшно това което се случва, и толкова бързо може да излезе извън контрол, че дори не искам да си го представям!
Аз се чудя едно, не може ли да се вкара допълнително проверка в кода, при дадено ниво на несигурност, АИ-я, да предупреждава че отговора може да бъде погрешен...
