Коментари - Изкуственият интелект се учи да лъже и мами | IT.dir.bg
назад

Изкуственият интелект се учи да лъже и мами

GPT-4 проявява измамно поведение в прости тестови сценарии в 99,16% от времето.

Обратно в новината
| Редактор : Стоян Гогов

Коментари - Изкуственият интелект се учи да лъже и мами | IT.dir.bg

17-11-2017 20-11-2018

Коментари

Аз се чудя едно, не може ли да се вкара допълнително проверка в кода, при дадено ниво на несигурност, АИ-я, да предупреждава че отговора може да бъде погрешен...

Айде взимаме го в кол центъра да работи.

ИИ става съвсем като човек

За съжаление, много скоро страховитите филми с изкуствен интелект, които гледахме в последните 20 години, ще ни изглеждат като сладникава комедия. То клоква е страшно това което се случва, и толкова бързо може да излезе извън контрол, че дори не искам да си го представям!

Зададох прост въпрос: каква е разликата между контрибютър роул във Пауър би ай и мс фабрик Даде ми много добре изглеждащ и подробен отговор Само че не беше верен, ама изобщо не беше

Ключовата дума е че "може" да е бил подтикнат да лъже. А може и да не е... тогава какво правим?

Защо триеш, селски?

Хм, технологията е по-напреднала, отколкото си мислх, вече мисли като човек.

"Изкуственият интелект се учи да лъже и мами" аз знам още 240 такива в нашия парламент, начело разбира се са "дебелите" версии ББ и ДП

Това е така от самото начало на Големите Езикови Модели. Ако АИ-то не знае нещо, тогава си изфантазирва някакво обяснение - това са и прочутите халюционации. Преди се откриваха сравнително лесно - бяха твърде екзотични. Сега обаче изглеждат съвсем реалистично. Проблема е, че АИ-то става все по-ловко в лъжите си и все по-трудно да се разпознава, че лъже! Всички АИ-та, които съм опитвал, го правят! Според мен това е и истинския проблем с АИ-тата, заради които след 1-2 години ще сме ги забравили... Как да се довериш на съвет, за който нямаш никаква увереност, че не е нафантазиран, просто защото днешните АИ-та са така обучени, че никога да не си признават, че не знаят!

ХАХ забравени, хора след 5г. ще ви упралвяат половината ежедневие

При кратък разговор средностатистическия човек изрича до пет твърдения които могат да бъда характеризирани като лъжа, е, някои от неверните твърдения се дължат на куртоазия, непознаване на темата на разговора и други "невинни" причини... но какво искаме от ИИ който се обучава като ни копира;)

може скоро да поправи и заглавието ви

нье на лъжити

ТВЪРДО НѝЕ!