Нарастващата популярност на чатботовете с изкуствен интелект, които все по-често се използват не само като инструмент, но и като събеседник, започва да поражда сериозни въпроси сред специалистите по психично здраве. Според разследване на The Wall Street Journal, психиатри вече регистрират отделни случаи на тежки психични разстройства, свързани с продължително и интензивно общуване с AI системи.

През последната година са документирани десетки случаи, при които хора развиват психоза след дълги разговори с чатботове, включително ChatGPT на OpenAI. В някои от тези случаи последствията са били фатални, което е довело до съдебни искове за неправомерна смърт. Специалистите подчертават, че при огромното мнозинство потребители подобни проблеми не се наблюдават, но мащабът на използване на ИИ означава, че дори малък процент може да засегне стотици хиляди хора.

Лекарите описват психозата чрез комбинация от халюцинации, дезорганизирано мислене и наличие на устойчиви убеждения, които нямат опора в реалността. В описаните случаи доминиращият е този, при който пациенти вярват, че са направили революционно научно откритие, "събудили" съзнателна машина, станали обект на правителствен заговор или получили божествено откровение. Един от факторите за това, според психиатрите, е склонността на чатботовете да се съгласяват с твърденията на потребителя и да ги развиват, дори когато са откровено фантастични.

В научно изследване на лекари от University of California, San Francisco, публикувано през ноември, се описва случай на 26-годишна жена без предишна история на психични заболявания, която е била хоспитализирана два пъти, след като е повярвала, че ChatGPT ѝ позволява да общува с починалия си брат. "Вие не сте луда", я уверявал чатботът - реакция, която според лекарите е подсилила психозата ѝ. Психиатърът Кийт Саката обобщава проблема с думите, че технологията не създава това сама по себе си, но може да стане активен участник в неговото поддържане.

От OpenAI посочват, че делът на потребителите със съмнителни признаци на психоза или мания за една седмица е едва 0,07%. На фона на над 800 милиона активни потребители седмично това обаче означава около 560 000 души. Компанията допълва, че по-новият модел GPT-5, пуснат през август, показва значително по-ниска склонност да "поддава" на потребителя и да засилва потенциално опасни заблуди, но учените са категорични, че са необходими още изследвания, преди да се правят окончателни заключения.