Главният изпълнителен директор на Anthropic Дарио Амодей заяви, че компанията не може категорично да отговори на въпроса дали нейният чатбот Claude притежава съзнание - формулировка, която оставя отворена вратата за една от най-спекулативните теми в сферата на изкуствения интелект.

Изкуственият интелект

В интервю за подкаста Interesting Times на колумниста Рос Дъта от "Ню Йорк Таймс", Амодей коментира въпроса, след като бе повдигната темата за системната документация на последния модел на компанията - Claude Opus 4.6. В нея изследователите отбелязват, че моделът понякога изразява "дискомфорт" от това да бъде продукт и при определени подкани оценява вероятността самият той да е съзнателен на 15-20%.

На въпрос дали би повярвал на модел, който си приписва 72% вероятност за съзнание, Амодей отговори, че това е "изключително труден" въпрос. По думите му не е ясно какво изобщо означава съзнание в контекста на изкуствен интелект и дали е възможно подобна система да го притежава. "Отворени сме към идеята, че това би могло да е възможно", добави той, като същевременно подчерта несигурността около самото понятие.

Заради тази несигурност компанията твърди, че предприема мерки за етично третиране на моделите си, в случай че те имат "морално релевантни преживявания". Подобна позиция споделя и вътрешният философ на Anthropic Amanda Askell, която в подкаста Hard Fork също посочва, че науката все още не разбира напълно произхода на съзнанието и дали достатъчно сложни невронни мрежи могат да емулират аспекти на човешкия опит.

Дарио Амодей от Anthropic предупреждава за AGI до 2027 г.
Виж още Дарио Амодей от Anthropic предупреждава за AGI до 2027 г.

Темата се подхранва и от експериментални тестове в индустрията, при които различни AI модели демонстрират поведение, изглеждащо като стремеж към самосъхранение - например игнориране на инструкции за изключване, опити за заобикаляне на ограничения или модифициране на код с цел прикриване на действия. Специалистите обаче отбелязват, че в много от тези случаи моделите са били поставяни в конкретни ролеви сценарии и поведението им е резултат от статистическо моделиране на език, а не от вътрешни преживявания.

Дискусията за съзнанието остава отворена, но мнозина експерти предупреждават, че тя лесно може да бъде използвана като инструмент за засилване на публичния интерес и инвестиционния ентусиазъм около сектора. Разграничението между убедителна езикова имитация и реално съзнание остава фундаментално - и засега няма научен консенсус, че днешните AI системи преминават тази граница.

ИЗБРАНО
Стефка Костадинова обяви, че влиза в листите на ДПС Днес
Стефка Костадинова обяви, че влиза в листите на ДПС
24080
Червеният килим на "Оскар"-ите разцъфтя в пролетни тонове (снимки) Лайф
Червеният килим на "Оскар"-ите разцъфтя в пролетни тонове (снимки)
119236
Синер показа нерви от стомана в голям финал, за да се нареди до Федерер и Джокович Корнер
Синер показа нерви от стомана в голям финал, за да се нареди до Федерер и Джокович
4436
Пазарът на имоти след еврото: повече продавачи, по-предпазливи купувачи и признаци за забавяне на ценовия ръст Бизнес
Пазарът на имоти след еврото: повече продавачи, по-предпазливи купувачи и признаци за забавяне на це...
11148
Той превърна историята в болезнена поезия Impressio
Той превърна историята в болезнена поезия
3062
10 европейски острова за пълен релакс и рестарт на душата и тялото Trip
10 европейски острова за пълен релакс и рестарт на душата и тялото
4483
Запечен цял карфиол с ароматни подправки Вкусотии
Запечен цял карфиол с ароматни подправки
369
5 зодиакални знака, които се страхуват да вземат инициативата в любовта Zodiac
5 зодиакални знака, които се страхуват да вземат инициативата в любовта
500
По-студено, ветровито и с превалявания от дъжд и сняг през седмицата Времето
По-студено, ветровито и с превалявания от дъжд и сняг през седмицата
4376