Учени от Google и Оксфорд: Изкуственият интелект най-вероятно ще ни анихилира

Бъдещето на човечеството не е розово

10:32 | 15 септември 2022 | Редактор: Стоян Гогов 25 10091

Изследователи от Google Deepmind и Оксфордския университет стигнаха до заключението, че вече е "вероятно" свръхинтелигентният изкуствен интелект да постави край на човечеството - мрачен сценарий, който все повече и повече изследователи започват да прогнозират.

Екипът се състои от старши изследователят на DeepMind Маркъс Хътър и учените от Оксфорд Майкъл Коен и Майкъл Осбърн. Изводите им са, че машините в крайна сметка ще бъдат стимулирани да нарушават правилата, определени от техните създатели, за да се състезават за ограничени ресурси или енергия.

"При условията, които идентифицирахме, нашето заключение е много по-силно от това на всяка предишна публикация - екзистенциална катастрофа е не просто възможна, но доста вероятна", заяви Коен.

В своята статия изследователите твърдят, че човечеството може да се сблъска с гибелта си под формата на свръхнапреднали "неправилно подредени агенти", които възприемат човечеството като преграда по пътя им към "наградата".

"Един добър начин агентът да поддържа дългосрочен контрол върху възнаграждението си е да елиминира потенциалните заплахи и да използва цялата налична енергия, за да защити компютъра си", пише в статията.

За съжаление изследователите твърдят, че не можем да направим много по въпроса.

"В свят с безкрайни ресурси бих бил изключително несигурен какво ще се случи", каза Коен в интервю за Motherboard. "В свят с ограничени ресурси има неизбежна конкуренция за тези ресурси."

И това може да вещае черни дни за човечеството.

"И ако сте в състезание с нещо, което може да ви надхитри на всяка крачка, тогава не трябва да очаквате да спечелите", добави той.

В отговор на тази заплаха човечеството трябва внимателно и бавно да развива своите AI технологии.

Статията на учените е публикувана в AI Magazine.

ИЗБРАНО