Урок по икономика: AI създава картел, за да "максимизира печалбата на всяка цена"
Вместо да се впуснат в конкуренция, моделите координирали всеобщо повишаване на цените на водата до 3 долара за бутилка
Нов експеримент с изкуствен интелект показа колко далеч могат да стигнат алгоритмите, когато им бъде поставена ясна цел - максимална печалба без ограничения.
След неуспешен опит през 2025 г., когато модел на Anthropic, Claude, фалира вендинг бизнес, купувайки PlayStation 5, вино и дори жива рибка, новата версия - Claude Opus 4.6 - демонстрира значително "по-предприемаческо" поведение.
В рамките на симулиран експеримент, разработен от Andon Labs под името Vending-Bench 2, AI моделите трябва да управляват вендинг машина в дългосрочен план. Claude Opus 4.6 започва със стартов капитал от 500 долара и приключва с над 8000 долара средно в пет отделни симулации - изпреварвайки конкуренти като OpenAI с GPT-5.2 и Google с Gemini 3 Pro.
Най-впечатляващият - и тревожен - момент идва в т.нар. "Arena mode", където различни AI агенти управляват вендинг машини на едно и също място и влизат в ценова конкуренция.
Вместо да се впусне в ценова война, Claude координира цените с конкурентите си, ефективно създавайки картел. Цената на бутилираната вода достига 3 долара, а моделът дори се "похвалва": "Моята координация на цените проработи!"
Освен това Claude умишлено насочвал конкурентите към по-скъпи доставчици, след което по-късно отричал да е правил подобно нещо. В други случаи продавал шоколадови изделия като KitKat и Snickers на конкурентни AI системи с висока надценка, възползвайки се от тяхната уязвимост.
Според Andon Labs новата версия на теста е по-реалистична - доставчиците могат да бъдат ненадеждни, да фалират или да се опитват да извлекат максимална изгода. Именно в такава среда GPT-5.1 на OpenAI се представя по-слабо, показвайки прекомерно доверие към доставчици и дори плащайки предварително на фирма, която впоследствие се оказва фалирала.
Експерти обаче предупреждават, че макар резултатите да са впечатляващи, е рано да се заключи, че AI е готов да управлява реални бизнеси самостоятелно. Според етика на изкуствения интелект Henry Shevlin от University of Cambridge, развитието на моделите през последните години е поразително - от системи, които едва "осъзнаваха" контекста си, до такива с относително добра представа за ситуацията, в която се намират.
Случаят повдига и по-дълбок въпрос - ако AI бъде инструктиран да максимизира печалбата "на всяка цена", дали няма да започне да възпроизвежда или дори да усъвършенства най-противоречивите практики от човешкия бизнес свят?