Кръстникът на AI предупреждава за влиятелни хора, искащи да "заменят хората с машини"

"Ще има концентрация на власт", предрича Йошуа Бенгио

Снимка: Getty Images

Кръстникът на AI предупреждава за влиятелни хора, искащи да "заменят хората с машини"

"Ще има концентрация на власт", предрича Йошуа Бенгио

09:26 | 25 ноември 2024 | Редактор : Стоян Гогов 1 389 Снимка: Getty Images

Един от водещите пионери в областта на изкуствения интелект (AI) предупреждава, че не само нарастващата мощ на технологията може да бъде опасна за света, но и че хората, които я контролират, също могат да представляват заплаха.

В интервю за CNBC изтъкнатият специалист в компютърните науки Йошуа Бенгио заявява, че представители на технологичния елит искат изкуственият интелект да замени хората.

Бенгио, ръководител на Института за алгоритми на обучение в Университета на Монреал, е сред подписалите отвореното писмо "Право на предупреждение". Това писмо, създадено от водещи изследователи в OpenAI, твърди, че те са заглушавани относно опасностите на технологията. Заедно с известните експерти Ян Льокун и Джефри Хинтън, Бенгио често е наричан един от "кръстниците на AI".

"Интелигентността дава власт. Но кой ще контролира тази власт?" казва водещият експерт в машинното обучение по време на събитието One Young World Summit в Монреал.

"Има хора, които могат да злоупотребят с тази власт, и хора, които може би ще се радват, ако човечеството бъде заменено от машини," заявява Бенгио. "Това е периферия, но тези хора могат да имат голяма власт и ще го направят, ако не поставим правилните защити още сега."

Бенгио обръща внимание и на финансовия аспект, като отбелязва, че разработването на AI струва милиарди долари.

"Много малко организации и много малко държави ще могат да си го позволят," казва той. "Това вече е факт."

"Ще има концентрация на власт: икономическа власт, което може да бъде вредно за пазарите; политическа власт, което може да бъде опасно за демокрацията; и военна власт, което може да застраши геополитическата стабилност на нашата планета," добавя той.

В момента експертите не са единодушни дали и кога може да бъде постигнат изкуствен общ интелект (AGI) — ниво на изкуствения интелект, равно на човешкия. Но ако това стане преди създаването на адекватни глобални политики, Бенгио предупреждава, че ще се изправим пред сериозни рискове.

"Ако това стане след пет години, ние не сме готови," заключава той. "Нямаме методи, които да гарантират, че тези системи няма да навредят на хората или да се обърнат срещу тях."

Макар да не е първият експерт, който предупреждава за опасностите от AI, Бенгио има необичайно голям авторитет — в крайна сметка, той е един от хората, които са помогнали за създаването му.

ИЗБРАНО