Google Добавете ни като предпочитан източник в Google

OpenAI е блокирала група акаунти в платформата за генеративен изкуствен интелект ChatGPT с произход от Русия, които, според американската компанията, са били използвани в подкрепа на тайна онлайн кампания с цел разпространение на дезинформация, съобщи Си Ен Би Си.

Американският разработчик е открил проблема след разследване на публикации в социалните медии, генерирани от изкуствен интелект, което я е довело до "много по-мащабна операция за влияние", съобщи днес OpenAI в публикация в блога си.

Кампанията е била "изградена около уебсайт, съдържащ копирани и неправилно приписани академични трудове, индекс за "суверенитет", който представя Русия в благоприятна светлина, както и усилия за прикриване на руския произход на операторите" на акаунтите, добави компанията.

OpenAI не позволява достъп до своите модели в Русия, но компанията посочи, че са били използвани VPN мрежи за прикриване на местоположението на абонатите.

През февруари OpenAI съобщи, че е закрила акаунти в ChatGPT, свързани с "Рибар" - проруска медийна компания, която британското правителство описва като "частично координирана от президентската администрация", финансирана от руската държавна корпорация "Ростех" и сътрудничеща с членове на руските разузнавателни служби.

Операторите на акаунтите давали команди на руски език за генериране на коментари в социалните медии, които били публикувани в Substack, Telegram, X, Facebook и LinkedIn, и инструктирали ChatGPT да скрие всякакви езикови улики, че са от Русия, посочиха от OpenAI.

Голяма част от генерираното съдържание е популяризирало организация, наречена "Международен институт "Бърк" (International Burke Institute - IBI). На уебсайта на организацията се публикуват статии, копирани от истински академични текстове, понякога с фалшиво посочени източници.

Кампанията за влияние също така е създала "индекс на суверенитета", който възхвалява Русия и очерня западните държави, според OpenAI.

Макар че непосредственото въздействие на операцията изглежда ограничено, "значението на операцията се състои не толкова в аудиторията, до която е достигнала, колкото в инфраструктурата, която е изградила", добавиха от компанията.

Публикациите, създадени от ChatGPT, сочеха към "институция, която на пръв поглед изглеждаше достоверна, с т.нар. експерти, препубликувани академични трудове и т.нар. собствен индекс на риска", заяви OpenAI.

"Това илюстрира как лицата, упражняващи влияние, могат да използват изкуствения интелект като подкрепящ инструмент в рамките на по-широки усилия за създаване на авторитет, прикриване на източника на предпочитани наративи и изграждане на ресурси, които могат да бъдат разширени с течение на времето", обясниха от компанията за изкуствен интелект.

Google Добавете ни като предпочитан източник в Google