Учени: Ще изпуснем от контрол изкуствения
Алгоритъмът за ограничаване трябва да е по-умен от самия AI
Учени от общността на Макс Планк се страхуват, че човечеството никога няма да може да контролира свръхинтелигентния изкуствен интелект. Има опасност, когато бъде създаден такъв AI, да се сбъдне сценарият с Терминатор (научнофантастичния екшън с Арнолд Шварценегер), предава technews.bg.
Неконтролируемият изкуствен свръх-разум отдавна притеснява учени и философи. Човечеството все още не е създало подобен интелект, но общността на Макс Планк отсега се опасява, че хората никога не биха могли да го контролират.
В ново изследване, публикувано в Journal of Artificial Intelligence Research, учените използват теоретични изчисления, за да определят фундаменталната невъзможност за контрол на свръхинтелигентния AI. Те разглеждат въпроса за ограничаването на изкуствения разум. Ако алгоритъм, който надминава човешкия интелект и има достъп до всички данни, реши, че трябва да навреди на хората или да унищожи напълно човечеството, тогава как може да бъде предотвратено това?
Учените предполагат, че създаването на "алгоритъм за ограничаване", който блокира свръхинтелигентния AI, може да реши проблема. В този случай обаче алгоритъмът за ограничаване трябва да бъде не по-малко "умен" от свръх-умния AI. А това означава, че проблемът не може да бъде разрешен.
Разбира се, разсъжденията за изкуствен свръх-разум остават само теория, тъй като човечеството все още е далеч от създаването на такива алгоритми. Но според изследователите, хората трябва да се подготвят предварително, тъй като вече има машини, които самостоятелно изпълняват задачи, докато програмистите не разбират как са научили това.
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}