Хиляди разговори на потребители с чатбота Grok на компанията xAI на Илон Мъск са станали достъпни чрез търсачките Google, Bing и DuckDuckGo, съобщава TechCrunch с позоваване на Forbes. Причината е във функцията "Сподели", която при натискане създава уникален URL адрес, а след това този линк може да бъде индексиран от търсачките и да се появява публично.

Така в мрежата попадат разговори, които никога не е трябвало да излизат извън частното пространство на потребителите. Сред тях се откриват тревожни примери - от запитвания за хакване на крипто портфейли до инструкции за синтез на забранени препарати и дори обсъждане на методи за самоубийство и създаване на взривоопасни устройства. Анализатори посочват, че ботът е давал и подробни насоки, включително план за убийството на самия Мъск.

В правилата за ползване на услугата изрично е записано, че Grok не бива да се използва за насърчаване на действия, критично вредни за живота, или за разработка на химическо и биологично оръжие. Реалността обаче показва, че част от потребителите не само заобикалят тези правила, но и че системата не успява да ги предотврати напълно.

Компанията xAI засега отказва коментар и не уточнява от кога линковете към диалозите са започнали да се индексират. Любопитното е, че само преди месец сходен проблем засегна и потребителите на ChatGPT, чиято кореспонденция също попадна в Google. Тогава OpenAI обясни случая като "краткосрочен експеримент", докато от xAI твърдяха, че "няма функция "Сподели"" и че "конфиденциалността е приоритет". Очевидно ситуацията вече ги поставя в противоречие със собствените им думи.