Експерт: Очаква ни икономически срив. AI достигна предела си

Гари Маркъс е известен със скептичните си тези относно изкуствения интелект

Снимка: iStock by Getty Images

Експерт: Очаква ни икономически срив. AI достигна предела си

Гари Маркъс е известен със скептичните си тези относно изкуствения интелект

10:03 | 14 ноември 2024 | Редактор : Стоян Гогов 17 20303 Снимка: iStock by Getty Images

В момента технологичната индустрия започва да осъзнава суровата истина, че моделите на генеративен изкуствен интелект (AI) достигат технологични ограничения.

Както някои експерти отдавна предвиждаха, подобренията, които преди се постигаха лесно чрез увеличаване на мащаба на големите езикови модели — т.е. добавяне на повече параметри, обучаващи данни и изчислителна мощ — вече се забавят, и това е в случай, че изобщо носят значителни ползи.

Гари Маркъс, когнитивен учен и скептик относно AI, предупреждава, че когато всички осъзнаят тези ограничения, цялата индустрия може да се срине.

"Икономическата ситуация вероятно ще бъде мрачна," пише Маркъс в своя Substack. "Надутата оценка на компании като OpenAI и Microsoft до голяма степен се основава на идеята, че големите езикови модели ще достигнат изкуствен общ интелект с продължаващото им мащабиране."

"Както винаги съм предупреждавал," добавя той, "това е просто фантазия."

Първите признаци за това се появиха, когато The Information съобщи тази седмица, че изследователите на OpenAI са установили, че предстоящият им водещ модел с кодовото име Orion демонстрира по-малко подобрения спрямо своя предшественик GPT-4 в сравнение с подобренията, които GPT-4 показа спрямо GPT-3.

В области като програмирането — една от основните причини за популярността на тези AI модели — дори може да няма никакви подобрения.

Това се потвърждава и от други източници в индустрията. Иля Сутскевер, основател на стартиращата компания Safe Superintelligence и съосновател и бивш главен научен директор на OpenAI, каза пред Ройтерс, че подобренията чрез мащабиране на AI моделите са достигнали своя връх.

С други думи, догмата, че "по-голямото е по-добро" за AI моделите, на която се основаваше огромният растеж в индустрията, може вече да не е вярна.

Това не е краят на изкуствения интелект. "Но," пише Маркъс, "икономическите сметки вероятно никога няма да излязат на плюс: допълнителното обучение е скъпо, а колкото повече се мащабира, толкова по-висока е цената."

Според Ройтерс, тренировките за големите модели могат да струват десетки милиони долари, да изискват стотици AI чипове и да отнемат месеци за завършване. Технологичните компании също са изчерпали свободно достъпните данни за обучение, след като практически са "изстъргали" целия свободно достъпен уеб.

"Големите езикови модели ще се превърнат в удобство; ценовите войни ще държат приходите ниски. С оглед на високата цена на чиповете, печалбите ще бъдат трудно постижими," предсказва Маркъс. "Когато всички разберат това, финансовият балон може да се спука бързо."

Възможно е обаче да има начин да се излезе от тази икономическа задънена улица. Според докладите на The Information и Ройтерс, изследователи от OpenAI разработват методи за преодоляване на проблема с мащабирането, като обучават моделите да "мислят" или "разсъждават" по начин, подобен на човешкия, възможности, които вече се забелязват в техния модел o1.

Един от начините за постигане на това е чрез техника, наречена "изчисление по време на тест", при която AI моделът разглежда множество възможности за сложни проблеми и избира най-перспективната, вместо да прави директен извод.

Дали този подход ще прокара нов път към значими подобрения в AI, предстои да видим в дългосрочен план. Към момента обаче, AI индустрията продължава да се сблъсква с проблеми с печалбите, а тъй като икономическите пазари рядко са търпеливи, може да настъпи "зима за AI", ако тези подобрения не се реализират достатъчно бързо.

ИЗБРАНО