Новите носители на наградата Тюринг отново предупреждават за опасностите от AI

Те са загрижени, че компаниите са мотивирани от печалба и пренебрегват безопасността

Снимка: Стоян Гогов/Midjourney

Новите носители на наградата Тюринг отново предупреждават за опасностите от AI

Те са загрижени, че компаниите са мотивирани от печалба и пренебрегват безопасността

16:07 | 5 март 2025 | Редактор : Стоян Гогов 1 1414 Снимка: Стоян Гогов/Midjourney

Учените, които получиха наградата Тюринг за създаването на фундаментални техники за обучение на изкуствен интелект, използваха вниманието към тях, за да изразят загриженост относно рисковете от прибързаното пускане на на модели, пише The Verge.

Изследователят от Университета на Масачузетс Андрю Барто и бившият научен сътрудник на DeepMind Ричард Сътън предупредиха, че AI компаниите не тестват продуктите си достатъчно преди пускането им, като сравниха този процес със "строеж на мост, който се тества, като хората започнат да го използват", според Financial Times.

Наградата Тюринг, често наричана "Нобеловата награда за компютърни науки", е придружена от парична премия от 1 милион долара и беше връчена днес съвместно на Барто и Сътън.

Андрю Барто и Ричард Сътън

Снимка: Association for Computing Machinery

Учените са наградени за разработването на "обучение чрез подсилване" — метод за машинно обучение, който тренира AI системи да вземат оптимизирани решения чрез проба и грешка.

Старши вицепрезидентът на Google Джеф Дийн описва тази техника като "ключов фактор за напредъка в AI", който остава "основен стълб на бума на изкуствения интелект", довел до революционни модели като ChatGPT на OpenAI и AlphaGo на Google.

"Пускането на софтуер до милиони хора без защитни мерки не е добра инженерна практика," заяви Барто пред Financial Times. "Инженерните практики са се развили, за да намалят отрицателните последици от технологиите, но не виждам това да се прилага от компаниите, които ги разработват."

Опасностите от бързащите AI компании вече бяха остро критикувани от Йошуа Бенджио и Джефри Хинтън — двама от "бащите на изкуствения интелект", които също са носители на наградата Тюринг.

През 2023 г. група водещи изследователи, инженери и изпълнителни директори в сферата на AI, включително главният изпълнителен директор на OpenAI Сам Алтман, излязоха с изявление, че "намаляването на риска от изчезване на човечеството вследствие на AI трябва да бъде глобален приоритет".

Барто разкритикува AI компаниите, че са "мотивирани от бизнес стимули", вместо да се фокусират върху напредъка на изследванията в сферата.

OpenAI, която неведнъж е обещавала да подобри безопасността на AI и дори временно отстрани Алтман заради "прекомерна комерсиализация на напредъка, без да се разбират последствията", обяви през декември планове да се трансформира в комерсиална компания с цел печалба.

Днес, повече от всякога, независимата журналистика има нужда от вас. В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.

Ако вярвате в правото си на обективна информация, подкрепете ни.

Вашето дарение от всякакъв размер и по всяко време означава много за нас.

Скъпи читатели,

Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.

Ако вярвате в правото си на обективна информация, подкрепете ни.

Скъпи читатели,

Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.

Ако вярвате в правото си на обективна информация, подкрепете ни.

ИЗБРАНО