Meta ще наказва потребителите за скриване на произхода на съдържание, генерирано от изкуствен интелект | IT.dir.bg

17-11-2017 20-11-2018
Meta ще наказва потребителите за скриване на произхода на съдържание, генерирано от изкуствен интелект
Снимка: iStock by Getty Images

Meta ще наказва потребителите за скриване на произхода на съдържание, генерирано от изкуствен интелект

Компанията ще започне да поставя етикети на изображения, създадени от изкуствен интелект и качени във Facebook, Instagram и Threads

| Редактор: Кристиан Антонов 4 262

През следващите месеци Meta ще започне да поставя етикети на изображения, създадени от изкуствен интелект и качени във Facebook, Instagram и Threads - докато компанията се подготвя за изборите в САЩ. Потребителите на платформи, които качват реалистични аудио- и видеофайлове, създадени от изкуствен интелект, но отказват да разкрият произхода им, ще бъдат наказани.

Президентът на Meta International Ник Клег заяви, че тези мерки имат за цел да активизират технологичната индустрия. Медийните файлове, генерирани от изкуствен интелект, стават все по-трудни за разграничаване от истинските. Компанията също така разработва инструменти за откриване на съдържание, генерирано от изкуствен интелект, дори ако метаданните му са били редактирани.

Meta разполага със собствен генератор на изображения Imagine и създадените от него изображения в платформите на компанията вече са обозначени с водния знак Imagined with AI. Изображенията, родени от инструментите на Google, OpenAI, Microsoft, Adobe, Midjourney и Shutterstock, ще бъдат обозначени по същия начин.

Според Ник Клег технологичната индустрия все повече изостава в разработването на стандарти за идентифициране на аудио и видеоматериали, създадени с изкуствен интелект. Meta трябва да следи внимателно как те могат да бъдат използвани за фалшифициране, но не може сама да идентифицира всички материали. Компанията, с подкрепата на партньори, разработва няколко инициативи за удостоверяване на съдържанието.

Adobe въведе системата Content Credentials за обозначаване на съдържание с изкуствен интелект в метаданните и при показване на уебсайтове. Google наскоро представи нова версия на водния знак SynthID за аудиофайлове. Meta скоро ще започне да изисква от потребителите си да разкриват информация за реалистични видео и аудиоклипове, генерирани от изкуствен интелект, добави Клег. Тези, които не го направят, ще бъдат изправени пред последствия, вариращи от предупреждение до изтриване на публикацията с такова съдържание.

Президентските избори в САЩ ще се проведат тази година, а в навечерието им вече имаше редица публикации, генерирани от изкуствен интелект, от името на политици. Но според Клег подобни материали или нямат политическа тежест, или бързо се откриват от администрацията на платформите. Meta също така ще започне да тества големи езикови модели, обучени според стандартите на общността - те ще действат като спомагателен инструмент за човешките модератори.

Meta ще наказва потребителите за скриване на произхода на съдържание, генерирано от изкуствен интелект

Meta ще наказва потребителите за скриване на произхода на съдържание, генерирано от изкуствен интелект

Компанията ще започне да поставя етикети на изображения, създадени от изкуствен интелект и качени във Facebook, Instagram и Threads

| Редактор : Кристиан Антонов 4 262 Снимка: iStock by Getty Images

През следващите месеци Meta ще започне да поставя етикети на изображения, създадени от изкуствен интелект и качени във Facebook, Instagram и Threads - докато компанията се подготвя за изборите в САЩ. Потребителите на платформи, които качват реалистични аудио- и видеофайлове, създадени от изкуствен интелект, но отказват да разкрият произхода им, ще бъдат наказани.

Президентът на Meta International Ник Клег заяви, че тези мерки имат за цел да активизират технологичната индустрия. Медийните файлове, генерирани от изкуствен интелект, стават все по-трудни за разграничаване от истинските. Компанията също така разработва инструменти за откриване на съдържание, генерирано от изкуствен интелект, дори ако метаданните му са били редактирани.

Meta разполага със собствен генератор на изображения Imagine и създадените от него изображения в платформите на компанията вече са обозначени с водния знак Imagined with AI. Изображенията, родени от инструментите на Google, OpenAI, Microsoft, Adobe, Midjourney и Shutterstock, ще бъдат обозначени по същия начин.

Според Ник Клег технологичната индустрия все повече изостава в разработването на стандарти за идентифициране на аудио и видеоматериали, създадени с изкуствен интелект. Meta трябва да следи внимателно как те могат да бъдат използвани за фалшифициране, но не може сама да идентифицира всички материали. Компанията, с подкрепата на партньори, разработва няколко инициативи за удостоверяване на съдържанието.

Adobe въведе системата Content Credentials за обозначаване на съдържание с изкуствен интелект в метаданните и при показване на уебсайтове. Google наскоро представи нова версия на водния знак SynthID за аудиофайлове. Meta скоро ще започне да изисква от потребителите си да разкриват информация за реалистични видео и аудиоклипове, генерирани от изкуствен интелект, добави Клег. Тези, които не го направят, ще бъдат изправени пред последствия, вариращи от предупреждение до изтриване на публикацията с такова съдържание.

Президентските избори в САЩ ще се проведат тази година, а в навечерието им вече имаше редица публикации, генерирани от изкуствен интелект, от името на политици. Но според Клег подобни материали или нямат политическа тежест, или бързо се откриват от администрацията на платформите. Meta също така ще започне да тества големи езикови модели, обучени според стандартите на общността - те ще действат като спомагателен инструмент за човешките модератори.