OpenAI обяви, че започва поетапно внедряване на модел за прогнозиране на възрастта за потребителските версии на ChatGPT. Целта е компанията по-ефективно да идентифицира акаунти, принадлежащи на потребители под 18 години, и да прилага допълнителни защитни мерки.

Още по темата

Според OpenAI моделът използва комбинация от сигнали на ниво акаунт и поведенчески данни. Изкуственият интелект ще базира прогнозите си на досегашните начини на употреба, датата на създаване на акаунта, типичните часове на активност и декларираната от потребителя възраст.

Новата функция идва на фона на засиления обществен и регулаторен натиск върху OpenAI и други технологични компании относно начина, по който защитават деца и тийнейджъри в дигитална среда.

Компанията е сред обектите на разследване от Федералната търговска комисия на САЩ (FTC), която проучва дали AI чатботове могат да оказват негативно влияние върху непълнолетни. OpenAI е замесена и в няколко съдебни дела за неправомерна смърт, включително случай, свързан със самоубийството на тийнейджър.

Когато моделът за прогнозиране на възрастта отчете, че даден потребител вероятно е под 18 години, ChatGPT автоматично ще активира защитни механизми, предназначени да ограничат достъпа до "чувствително съдържание", като например материали, свързани със самонараняване.

В случаите, когато пълнолетни потребители бъдат погрешно идентифицирани, те ще могат да възстановят пълния си достъп чрез услугата за удостоверяване на самоличност Persona.

Persona вече се използва и от други платформи, сред които Roblox — компания, която също е подложена на натиск от законодатели за по-добра защита на децата.

Още през август OpenAI обяви, че ще въведе родителски контрол, който да помага на родителите да разбират и управляват начина, по който техните тийнейджъри използват ChatGPT. Тези функции бяха официално пуснати месец по-късно, заедно с анонса за разработване на система за прогнозиране на възрастта.

През октомври компанията създаде и експертен съвет от осем специалисти, чиято задача е да анализират как изкуственият интелект влияе върху психичното здраве, емоциите и мотивацията на потребителите.

OpenAI заяви, че ще продължи да подобрява точността на модела си с течение на времето.

Компанията уточни, че системата ще бъде внедрена в Европейския съюз през следващите седмици, за да отговори на специфичните регионални регулаторни изисквания.

 

ИЗБРАНО
Цицелков подаде оставка. Гюров я прие Днес
Цицелков подаде оставка. Гюров я прие
23055
Рядко неврологично заболяване погуби актьора Ерик Дейн Лайф
Рядко неврологично заболяване погуби актьора Ерик Дейн
10927
Лудогорец се събуди от унгарския кошмар и най-сетне победи Ференцварош Корнер
Лудогорец се събуди от унгарския кошмар и най-сетне победи Ференцварош
11596
Върховният съд на САЩ отмени митата на Тръмп Бизнес
Върховният съд на САЩ отмени митата на Тръмп
3097
Камбанарията на Джото във Флоренция ще бъде реставрирана за първи път цялостно Impressio
Камбанарията на Джото във Флоренция ще бъде реставрирана за първи път цялостно
3896
Вайръл Прага по Depeche, по Кафка, по съдба URBN
Вайръл Прага по Depeche, по Кафка, по съдба
3237
20 години по-късно: Как бестселърът "Яж, моли се и обичай" позволи на жените да бъдат хора Trip
20 години по-късно: Как бестселърът "Яж, моли се и обичай" позволи на жените да бъдат хора
1633
Класика в еърфрайър: Телешки кюфтенца с гарнитура картофено пюре Вкусотии
Класика в еърфрайър: Телешки кюфтенца с гарнитура картофено пюре
2886
Кои зодиакални знаци ще имат късмет на 20 февруари? Zodiac
Кои зодиакални знаци ще имат късмет на 20 февруари?
589
Още сняг и леден вятър утре, затопляне до почти 20 градуса следващата седмица Времето
Още сняг и леден вятър утре, затопляне до почти 20 градуса следващата седмица
11000