Най-добрият учен във Facebook тихомълком работи по "автономен" изкуствен интелект

Новината е доста плашеща, според част от учените

Снимка: iStock by Getty Images

Най-добрият учен във Facebook тихомълком работи по "автономен" изкуствен интелект

Новината е доста плашеща, според част от учените

10:40 | 7 октомври 2022 | Редактор : Стоян Гогов 16 3886 Снимка: iStock by Getty Images

Шефът на изкуствения интелект на Facebook тихомълком изгражда пътна карта към "автономен" машинен интелект. Шефът на Meta AI и известен компютърен учен Ян Лекюн публикува статия по-рано това лято, която представи официално в Бъркли преди няколко дни. В материала си топ информатикът говори за изкуствен интелект, който "учи толкова ефективно, колкото хората и животните", докато става все по-автономен и самостоятелен.

Лекюн говори за липсата на "здрав разум" в средите, занимаващи се с AI.

Здравият разум, както е описан от учения, като колекция от "модели на света", които позволяват на хората и животните да предскажат дали събитията са вероятни или невероятни, правдоподобни или неправдоподобни, възможни или невъзможни.

"Системата за самоуправление за автомобили може да изисква хиляди опити за обучение, за да се научи, че шофирането твърде бързо в завой ще доведе до лош резултат, и да се научи да намалява скоростта, за да избегне поднасяне", пише изследователят пионер в ИИ. "За разлика от това, хората могат да черпят от интимните си познания за интуитивната физика, за да предскажат такива резултати и до голяма степен да избегнат фатални курсове на действие, когато учат ново умение - без да правят хиляда неуспешни опита в процеса"

За да преодолее празнината между многото повторения на опити и грешки, необходими за обучение на невронни мрежи, и "интуитивната" природа на органичното знание, Лекюн предлага нов метод за обучение на изкуствен интелект. Той ще му даде "здрав разум" и ще го направи по-близък до хората.

Следващото поколение архитектура за обучение на алгоритми на шефа на Meta AI включва система, която възпроизвежда краткосрочната памет; друга, която учи невронните мрежи на самокритика и създаването на модул за "конфигуратор" който синтезира всички входящи данни в полезна информация.

Взети заедно, тези компоненти са предназначени да помогнат на машинния интелект да възпроизведе процесите на човешкия ум и в някаква степен да се сдобие с интуиция и "здрав разум".

Това, че най-добрият изследовател на AI на Meta тихомълком разпространява статия за това как да превърнем AI в автономни "мислители" не се тълкува еднозначно от общността на учените. Според някои от тях това може да е доста опасно и да ни доближи до нежелани последствия.

ИЗБРАНО