AI експерт: OpenAI ще е като извадена от "1984" на Оруел

Изкуственият интелект може бързо да обобщава голямото количество събрани от разузнавателните агенции данни

Снимка: iStock by Getty Images

AI експерт: OpenAI ще е като извадена от "1984" на Оруел

15:35 | 7 октомври 2024 | Редактор : Стоян Гогов 0 391 Снимка: iStock by Getty Images

Романът "1984" на Джордж Оруел е може би най-известен с това, че предупреждава своите читатели за опасностите от масовото наблюдение и силната централизирана власт. Антиутопичният роман се развива във въображаем свят, където всезнаеща "Партия" постоянно наблюдава и манипулира жителите си.

Експертът по изкуствен интелект Гари Маркъс казва, че компанията, която води глобалната надпревара в изкуствен интелект, е на прага да доближи света ни до реалностите в "1984", пише Business Insider.

"Моето предположение е, че OpenAI ще се превърне в най-оруелската компания на всички времена", каза той в дискусия с ветерана от Google Питър Норвиг в Станфордския център за човешки центриран изкуствен интелект миналата седмица. "Това, което ще бъдат принудени да направят, е да станат компания за наблюдение."

"Знаем, че OpenAI се стреми към добри пазарни резултати. Обаче технологията все още не е достатъчно надеждна, защото е измъчвана от проблеми като халюцинации и груби грешки. Толкова много фирми започват да бъдат предпазливи. Има обаче и друг начин да печелите пари: наблюдението.

AI може да синтезира огромни количества данни бързо, помагайки на всеки, който може да плати за това, да пречисти данните - независимо дали това е правителствена агенция, разследваща своите граждани, или политическа кампания, насочена към конкретни избиратели", споделя мислите си Маркъс.

Притесненията, че технологиите на OpenAI могат да бъдат използвани за увеличаване на усилията за наблюдение, бяха повдигнати и преди. През юни OpenAI назначи бившия директор на NSA Пол Накасоне в своя борд на директорите, което предизвика порой от критики. Американският информатор Едуард Сноудън нарече назначението "премерено предателство към правата на всеки човек на Земята".

По това време Сноудън добави в публикация на X, че "пресичането на AI с океана от данни за масово наблюдение, който се натрупва през последните две десетилетия, ще постави наистина ужасни правомощия в ръцете на малцина безотчетни хора".

OpenAI не отговори веднага на искане за коментар от Business Insider.

ИЗБРАНО