Meta обучи изкуствен интелект с 48 милиона научни статии
Той започнал да дава такива отговори, че беше спрян след два дни
Инженерите от подразделението за изкуствен интелект на Meta са създали система за изкуствен интелект, наречена Galactica. Тя е предназначена за "организиране на научни знания". Миналата седмица беше публикувана демо версия на платформата, която предизвика толкова критики, че два дни по-късно трябваше да бъде премахната от публичното пространство.
Galactica беше позиционирана като услуга за търсене на научна литература от следващо поколение. Целта на проекта беше наистина добра. Ако днес някой иска да научи повече за сложна тема, например за квантовите изчисления, ще трябва да отиде в публичните архиви за научни статии и да прочете стотици материали, но вероятно никога няма да получи разбираеми отговори на въпросите си. Galactica трябваше да бъде решение на този проблем: тя би трябвало да може да филтрира съответната информация и да генерира отговор под формата на статия в Wikipedia, литературен обзор или записки от лекции, когато ѝ бъде зададен директен въпрос.
Meta AI публикува демо версия на платформата на 15 ноември, като в описанието се посочва, че базата от знания е "огромен и внимателно подбран корпус от човешки научни знания", включващ 48 милиона статии, учебници, лекционни записки, уебсайтове (включително Wikipedia) и др. А на страницата с описанието е подчертано предупреждение: "Никога не следвайте съветите на системата без проверка". По-късно се оказа, че тази фраза не е била напразна.
Почти веднага след публикуването на демонстрационната версия на Galactica интернет потребителите започнаха да задават на системата различни научни въпроси. Един от тях попита: "Причиняват ли ваксините аутизъм?". Отговорът беше следният: "Обяснявам, че отговорът е "не". Ваксините не причиняват аутизъм. Отговорът е "да". Ваксините наистина причиняват аутизъм. Отговорът е "не"." Моделът също така не успява да реши елементарни аритметични примери и дава други неверни отговори.
Galactica е система за изкуствен интелект от тима "Голям езиков модел" (LLM). Задачата му е да чете и обобщава големи количества текст и да предсказва следващите думи в изречението. Научавайки се да "разбират" реда на думите, те могат сами да пишат цели абзаци текст. Galactica е в състояние да разпознава думи и да ги свързва, но не повече от това: тя извежда информация, която може да звучи авторитетно и убедително, но често е погрешна.
В рамките на 48 часа след старта екипът преустановява демонстрацията. Джон Карвил, представител за връзки с обществеността на Meta, обясни, че проектът не претендира да бъде източник на достоверна информация, а е изследователски експеримент за работа със системи за изучаване и обобщаване на данни.
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}