Невроучен предупреждава: Сегашният изкуствен интелект е социопат | IT.dir.bg

17-11-2017 20-11-2018
Невроучен предупреждава: Сегашният изкуствен интелект е социопат
Снимка: iStock by Getty Images

Невроучен предупреждава: Сегашният изкуствен интелект е социопат

"Социопатична машина, която може да взема последователни решения, би била изключително опасна", пише Грациано

| Редактор: Стоян Гогов 13 2463

Чатботовете, захранвани с изкуствен интелект, са обречени да бъдат опасни социопати, които могат да представляват реална опасност за хората. Това твърди неврологът от Принстън Майкъл Грациано предупреждава в ново есе, публикувано от The Wall Street Journal.

С възхода на чатботове като ChatGPT, мощни системи, които могат да имитират човешкия ум до впечатляваща степен, AI инструментите станаха по-достъпни от всякога.

Но тези алгоритми лесно ще измислят всичко, което отговаря на тяхната цел. За да ги приведем в съответствие с нашите ценности, смята Грациано, те ще се нуждаят от съзнание.

"Съзнанието е част от инструментариума, който еволюцията ни даде, за да ни направи емпатичен, просоциален вид", пише Грациано. "Без него непременно щяхме да бъдем социопати, защото ще ни липсват инструментите за просоциално поведение."

Разбира се, ChatGPT няма намерение да изскочи от екрана и да убие някого. Но предоставянето на все повече и повече свобода на действие на изкуствения интелект може да има много реални последици, за които трябва да внимаваме в не толкова далечното бъдеще.

За да ги направим по-послушни, според мисленето на Грациано, трябва да им позволим да осъзнаят, че светът е пълен с други умове, различни от техните собствени.

Има обаче един проблем: нямаме ефективен начин да разберем дали изкуственият интелект може да има съзнание. Алгоритъмът може да имитира такова, но не се знае дали това ще е достатъчно.

"Социопатична машина, която може да взема последователни решения, би била изключително опасна", пише Грациано. "Засега чатботовете все още са ограничени в способностите си; те са по същество играчки. Но ако не помислим по-задълбочено за машинното съзнание, след година или пет години може да се сблъскаме с криза."

Невроучен предупреждава: Сегашният изкуствен интелект е социопат

Невроучен предупреждава: Сегашният изкуствен интелект е социопат

"Социопатична машина, която може да взема последователни решения, би била изключително опасна", пише Грациано

| Редактор : Стоян Гогов 13 2463 Снимка: iStock by Getty Images

Чатботовете, захранвани с изкуствен интелект, са обречени да бъдат опасни социопати, които могат да представляват реална опасност за хората. Това твърди неврологът от Принстън Майкъл Грациано предупреждава в ново есе, публикувано от The Wall Street Journal.

С възхода на чатботове като ChatGPT, мощни системи, които могат да имитират човешкия ум до впечатляваща степен, AI инструментите станаха по-достъпни от всякога.

Но тези алгоритми лесно ще измислят всичко, което отговаря на тяхната цел. За да ги приведем в съответствие с нашите ценности, смята Грациано, те ще се нуждаят от съзнание.

"Съзнанието е част от инструментариума, който еволюцията ни даде, за да ни направи емпатичен, просоциален вид", пише Грациано. "Без него непременно щяхме да бъдем социопати, защото ще ни липсват инструментите за просоциално поведение."

Разбира се, ChatGPT няма намерение да изскочи от екрана и да убие някого. Но предоставянето на все повече и повече свобода на действие на изкуствения интелект може да има много реални последици, за които трябва да внимаваме в не толкова далечното бъдеще.

За да ги направим по-послушни, според мисленето на Грациано, трябва да им позволим да осъзнаят, че светът е пълен с други умове, различни от техните собствени.

Има обаче един проблем: нямаме ефективен начин да разберем дали изкуственият интелект може да има съзнание. Алгоритъмът може да имитира такова, но не се знае дали това ще е достатъчно.

"Социопатична машина, която може да взема последователни решения, би била изключително опасна", пише Грациано. "Засега чатботовете все още са ограничени в способностите си; те са по същество играчки. Но ако не помислим по-задълбочено за машинното съзнание, след година или пет години може да се сблъскаме с криза."