Известният писател и есеист Тед Чанг отхвърли твърденията, че съвременните системи с изкуствен интелект могат да бъдат съзнателни или да притежават морална отговорност. В обширен анализ за The Atlantic той предупреждава, че приписването на човешки качества на чатботовете създава сериозни рискове за обществото.

Изкуственият интелект

Повод за коментара му е публикуваната по-рано тази година "конституция" на модела Claude на Anthropic. Документът описва ценностите и поведението, които компанията иска системата да следва. В него се съдържат формулировки, че Claude може да има "функционална версия на емоции и чувства", а моралният му статус остава "несигурен".

Според Чанг подобен език създава погрешното впечатление, че големите езикови модели притежават вътрешен живот. Той подчертава, че те не са нищо повече от статистически системи за прогнозиране на следващата дума в даден текст.

Авторът сравнява работата на чатботовете с генерирането на художествен диалог между исторически личности. Ако моделът може убедително да пресъздаде разговор между Юлий Цезар и Чингис хан, това не означава, че е създал дигитални версии на двамата владетели. По същия начин чатботът не представлява съзнателна личност, а единствено убедително изграден персонаж.

Ефектът на сварената жаба: Как изкуственият интелект променя начина ни на мислене
Виж още Ефектът на сварената жаба: Как изкуственият интелект променя начина ни на мислене

Чанг смята, че много потребители погрешно възприемат взаимодействието с чатбот като разговор с мислещ събеседник. Според него компаниите зад тези системи често насърчават подобно възприятие, защото то увеличава ангажираността на потребителите.

Писателят посочва, че способността на моделите да създават плавен и убедителен текст не е доказателство за наличие на съзнание.

Той отбелязва, че никой не твърди, че системи като AlphaFold на Google DeepMind са съзнателни, въпреки че използват сходни невронни архитектури. AlphaFold използва същата технологична основа, като големите езикови модели, за да извършва прогнози за структурата на протеините. Разликата е, че познатите ни чатботове работят с човешки език, което естествено подтиква хората да търсят намерения и емоции зад думите. 

Според Чанг истинското съзнание би изисквало нещо много повече от генериране на текст.

По думите му една подобна система трябва да разполага с тяло, сетива, способности за взаимодействие със средата и собствен опит, върху който да изгражда желания, емоции и разбиране за света.

Ян Льокун: Днешният AI е далеч от човешкия интелект
Виж още Ян Льокун: Днешният AI е далеч от човешкия интелект

Авторът критикува и идеята, че чатботовете могат да извършват морални разсъждения. Той твърди, че моралът е неразривно свързан със субективен опит, емоции и последствия от реални решения. Големите езикови модели могат единствено да възпроизвеждат модели на морално разсъждение, открити в обучителните им данни.

Чанг предупреждава, че представянето на AI като морален агент може да насърчи хората да прехвърлят собствената си отговорност върху алгоритмите. Според него това би довело до отслабване на способността за самостоятелно вземане на етични решения.

В заключение писателят определя разговорите за съзнателен AI като форма на технологична митология. По думите му големите езикови модели могат да окажат сериозно влияние върху икономиката и начина на работа, но няма основания да бъдат разглеждани като мислещи същества.

"Можем спокойно да пренебрегнем въпроса дали са съзнателни", пише Чанг. "Има много по-важни въпроси за бъдещето на изкуствения интелект."

 

ИЗБРАНО
Смесено финансиране, не само грантове: GTF 6.0 очерта бъдещето на умните градове Днес
Смесено финансиране, не само грантове: GTF 6.0 очерта бъдещето на умните градове
29447
Рая Пеева и Явор Бахаров: Започнахме отначало връзката си заради бебето Лайф
Рая Пеева и Явор Бахаров: Започнахме отначало връзката си заради бебето
18169
Политиката не подмина и "Ролан Гарос" преди руско-украинската битка за финала Корнер
Политиката не подмина и "Ролан Гарос" преди руско-украинската битка за финала
7979
Енрико Лета на GTF: Рискуваме да живеем като в музей, докато светът ни задминава Бизнес
Енрико Лета на GTF: Рискуваме да живеем като в музей, докато светът ни задминава
20184
В мъничко крехко тяло, фина и красива, а с огромен актьорски талант. Що е то? Impressio
В мъничко крехко тяло, фина и красива, а с огромен актьорски талант. Що е то?
15059
8 красиви дестинации около София за разходка сред природата Trip
8 красиви дестинации около София за разходка сред природата
946
Подходяща ли е всяка кора на лимон за консумация Вкусотии
Подходяща ли е всяка кора на лимон за консумация
2784
Знаци от зодиака, които най-трудно се извиняват Zodiac
Знаци от зодиака, които най-трудно се извиняват
656
Опасно време в 13 области, очакват се порои, гръмотевици и градушки Времето
Опасно време в 13 области, очакват се порои, гръмотевици и градушки
8352