Хакерите могат да шпионират какво си пишете с ChatGPT | IT.dir.bg

17-11-2017 20-11-2018
Хакерите могат да шпионират какво си пишете с ChatGPT
Снимка: Getty Images

Хакерите могат да шпионират какво си пишете с ChatGPT

Вашите въпроси могат да издадат доста за интересите ви

| Редактор: Стоян Гогов 1 233

Експерти по киберсигурност предупреждават да сте по-внимателни какво питате чатботовете с AI, защото въпросите ви лесно могат да се разберат от трети страни.

"В момента всеки може да чете частни чатове, изпратени към ChatGPT и други подобни услуги", каза Израел Мирски, ръководител на лабораторията за изследване на Offensive AI в израелския университет Бен-Гурион, пред Ars Technica.

"Това включва злонамерени участници в същата Wi-Fi или LAN мрежа или на практика всеки, който може да наблюдава трафика ви."

Тези типове хакове, както се обяснява в доклада, са това, което е известно като "атаки от страничен канал". Те включват трети страни, които извличат информация пасивно, използвайки метаданни или други косвени експозиции, вместо да пробиват защитни стени за сигурност.

Докато този вид експлойт може да възникне с всякакъв вид технологии, AI изглежда особено уязвим, тъй като неговите усилия за криптиране не са на ниво.

"Атаката е пасивна и може да се случи без знанието на OpenAI или това на техния клиент", разкрива изследователят. "OpenAI криптира техния трафик, за да предотврати този вид атаки за подслушване, но нашето изследване показва, че начинът, по който OpenAI използва криптиране, е погрешен и неефективен."

В изявление Microsoft каза на Ars, че експлойтът, който също засяга неговия Copilot AI, не компрометира лични данни.

"Специфични подробности като имена е малко вероятно да бъдат предвидени", каза говорител на Microsoft пред уебсайта. "Ние се ангажираме да помогнем за защитата на нашите клиенти срещу тези потенциални атаки и ще се справим с това с актуализация."

Въпреки това хакерите могат да засекат вашите интереси. В някои страни определени теми, могат да доведат до глоба, затвор или дори смъртно наказание. Например, в някои държави смяната на религията се наказва със смърт. В тези държави обикновено са налице тайни служби, които имат капацитета да шпионират онлайн трафика на гражданите си. Така чатовете с ChatGPT и други подобни платформи крият съществен риск за потребителите там.

Хакерите могат да шпионират какво си пишете с ChatGPT

Хакерите могат да шпионират какво си пишете с ChatGPT

Вашите въпроси могат да издадат доста за интересите ви

| Редактор : Стоян Гогов 1 233 Снимка: Getty Images

Експерти по киберсигурност предупреждават да сте по-внимателни какво питате чатботовете с AI, защото въпросите ви лесно могат да се разберат от трети страни.

"В момента всеки може да чете частни чатове, изпратени към ChatGPT и други подобни услуги", каза Израел Мирски, ръководител на лабораторията за изследване на Offensive AI в израелския университет Бен-Гурион, пред Ars Technica.

"Това включва злонамерени участници в същата Wi-Fi или LAN мрежа или на практика всеки, който може да наблюдава трафика ви."

Тези типове хакове, както се обяснява в доклада, са това, което е известно като "атаки от страничен канал". Те включват трети страни, които извличат информация пасивно, използвайки метаданни или други косвени експозиции, вместо да пробиват защитни стени за сигурност.

Докато този вид експлойт може да възникне с всякакъв вид технологии, AI изглежда особено уязвим, тъй като неговите усилия за криптиране не са на ниво.

"Атаката е пасивна и може да се случи без знанието на OpenAI или това на техния клиент", разкрива изследователят. "OpenAI криптира техния трафик, за да предотврати този вид атаки за подслушване, но нашето изследване показва, че начинът, по който OpenAI използва криптиране, е погрешен и неефективен."

В изявление Microsoft каза на Ars, че експлойтът, който също засяга неговия Copilot AI, не компрометира лични данни.

"Специфични подробности като имена е малко вероятно да бъдат предвидени", каза говорител на Microsoft пред уебсайта. "Ние се ангажираме да помогнем за защитата на нашите клиенти срещу тези потенциални атаки и ще се справим с това с актуализация."

Въпреки това хакерите могат да засекат вашите интереси. В някои страни определени теми, могат да доведат до глоба, затвор или дори смъртно наказание. Например, в някои държави смяната на религията се наказва със смърт. В тези държави обикновено са налице тайни служби, които имат капацитета да шпионират онлайн трафика на гражданите си. Така чатовете с ChatGPT и други подобни платформи крият съществен риск за потребителите там.