OpenAI отлага еротичните чатове в ChatGPT
Компанията се притеснява, че системите за проверка на възрастта могат да позволят достъп на милиони тийнейджъри до подобно съдържание
OpenAI отложи планираното стартиране на функция за еротични разговори в ChatGPT, след като вътрешни анализи и експертни оценки показаха сериозни рискове, свързани със сигурността и достъпа на непълнолетни до подобно съдържание. Макар че идеята за подобна функционалност се обсъжда от известно време, компанията засега предпочита да изчака, докато изгради по-надеждни механизми за контрол и защита на потребителите.
Още през миналата година главният изпълнителен директор на OpenAI Сам Алтман намекна, че в бъдеще ChatGPT може да предложи текстови еротични разговори между възрастни потребители. Първоначално функцията се очакваше да се появи до края на 2025 г., след което срокът беше преместен за първото тримесечие на тази година. Според информация на The Wall Street Journal обаче и този график няма да бъде спазен, като стартирането се отлага поне с още месец.
OpenAI има известен опит с подобни сценарии още преди появата на ChatGPT. През 2021 г. компанията работеше върху интерактивната игра AI Dungeon, в която потребителите можеха да създават собствени истории чрез изкуствен интелект. Тогава разработчиците установиха, че системата често стига до неочаквано откровени разговори, дори когато потребителите не са ги провокирали. В други случаи, когато участниците въвеждали умерено еротично съдържание, моделът започвал да генерира прекалено откровени и неподходящи сценарии. Именно тези ранни експерименти убедиха компанията, че подобни функции изискват сериозни етични ограничения.
Най-голямото притеснение на OpenAI е свързано с проверката на възрастта. Според вътрешни оценки системите за удостоверяване на възрастта в момента бъркат около 12% от случаите, като приемат непълнолетни потребители за възрастни. Като се има предвид, че аудиторията на ChatGPT включва приблизително 100 милиона тийнейджъри, това би означавало, че милиони непълнолетни могат да получат достъп до еротични разговори. Създадената през януари експертна комисия на OpenAI също предупреди за риск от появата на съдържание, което може да нарушава законодателството или обществените норми — например сцени с насилие, участие на непълнолетни или други чувствителни теми.
Допълнителна тревога предизвикват и потенциалните психологически ефекти от подобни чатове. Някои експерти се опасяват, че прекомерното използване на виртуални отношения с чатботове може да доведе до зависимост и да намали желанието за изграждане на реални взаимоотношения. В миналото вече е имало случаи, при които продължителното общуване с виртуални персонажи е оказвало сериозно влияние върху психичното състояние на потребители, включително и трагични инциденти сред млади хора.
Въпреки това ръководството на OpenAI не се отказва напълно от идеята. Според представители на компанията концепцията остава възможна в бъдеще, но само при строги ограничения и изключително текстова форма — без генериране на изображения или видеоклипове с откровено съдържание. "Все още вярваме, че с възрастните трябва да се говори като с възрастни, но изграждането на правилния модел на използване ще изисква повече време", коментират от компанията.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}