OpenAI докладва разговори в ChatGPT на полицията
Възможно е наблюдението тепърва да се разширява
По-рано тази седмица, OpenAI разкри, че сканира разговорите на потребителите и ги докладва на полицията, ако човешки модератор ги прецени като достатъчно заплашителни. Признанието обаче бе поместено в обширен блог ост за психическо здраве и остана някак незабелязан.
"Когато засечем потребители, които планират да навредят на други, ние пренасочваме техните разговори към специализирани канали, където те се преглеждат от малък екип, обучен в нашите правила за употреба и упълномощен да предприема действия, включително блокиране на акаунти," пише компанията.
"Ако човешките преглеждащи определят, че даден случай включва непосредствена заплаха от сериозна физическа вреда върху други хора, можем да го препратим към съответните правоохранителни органи."
Съобщението предизвика серия от въпроси:
- Не подкопава ли ролята на човешките модератори цялата концепция за AI система, която - според създателите ѝ - може да решава широки и сложни проблеми?
- Как OpenAI изобщо установява точните местоположения на потребителите, за да ги предаде на спешните служби?
- Как се предпазва от злоупотреба от страна на т.нар. swatters - хора, които могат да се представят за друг и да отправят насилствени заплахи чрез ChatGPT, за да накарат полицията да нахлуе при жертвата?
Засега OpenAI не е отговорила на тези въпроси, изпратени им от изданието Futurism. В интернет обаче много хора реагираха бурно на новината. По думите им тя прави AI още по-смъртоносен за уязвими хора.
Намесата на силно въоръжена полиция - която рядко има обучение за ефективна деескалация - в напрегната ситуация, свързана с психично здраве, често води до фатален край. По-рано тази година мъж бе застрелян от полицията в САЩ, след като изпадна в AI-психоза.
OpenAI засега твърди, че уведомява властите само когато дадено лице изразява намерение да нарани други - и изключва случаите, в които хората заявяват желание за самонараняване.
В технологичната индустрия обаче има огромен прецедент - наблюдението да се разширява под натиск от обществото, корпорациите, разузнавателните агенции и най-вече - правителствата.
"Преди дванадесет години Едуард Сноудън разкри, че американското правителство не само шпионира интернет трафика ни, но има активното съдействие на големи технологични компании като Microsoft, Google, Apple и т.н.
Не е параноично да мислим, че ChatGPT вече препраща "интересно" съдържание към американското правителство," написа разработчикът на AI и блогър Чарлз МакГинес.
Признанието противоречи на изявленията на изпълнителния директор на OpenAI, Сам Алтман, който наскоро призова за поверителност, "подобна на тази между терапевт, адвокат или лекар" за потребителите на ChatGPT.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}
;void(0);){kind=link}