Във вторник Meta обяви плана си да започне да маркира изображения, генерирани от AI от други компании като OpenAI и Google. Ходът е насочен към увеличаване на прозрачността на платформи като Facebook, Instagram и Threads, като информира потребителите, че съдържанието, което гледат, е синтезирана цифрова медия, а не автентична снимка или видео.
Решението на Meta е част от по-широки усилия на технологичната индустрия за определяне на стандарти за етикетиране на съдържание, създадено с генеративни AI модели, способни да създават фалшиви, но реалистични аудио, изображения и видео въз основа на писмени указания.
Президентът по глобалните въпроси на Meta, Ник Клег, направи съобщението в публикация в блог на уебсайта на Meta. „Ще продължим да следваме този подход през следващата година, когато ще се проведат редица важни избори по света“, пише Клег. „През това време се надяваме да научим много повече за това как хората създават и споделят съдържание с изкуствен интелект, каква прозрачност хората ценят най-много и как се развиват тези технологии.“
Клег отбеляза, че инициативата на Meta за маркиране на съдържание, генерирано от изкуствен интелект, ще разшири съществуващата практика за маркиране на съдържание, създадено със собствени инструменти за изкуствен интелект, за да включва изображения, създадени с помощта на услуги на други компании.
„Ние изграждаме водещи в индустрията инструменти, които могат да идентифицират невидими маркери в мащаб – по-специално „генерираната от AI“ информация в техническите стандарти C2PA и IPTC – така че можем да маркираме изображения от Google, OpenAI, Microsoft, Adobe, Midjourney и Shutterstock, докато изпълняват плановете си за добавяне на метаданни към изображения, създадени с техните инструменти.“
Meta казва, че генерираната от AI технология за етикетиране на съдържание ще се основава на невидими водни знаци и метаданни, вградени във файлове. Meta добавя малък воден знак „Въобразено с AI“ към изображения, създадени с публичния генератор на изображения с AI.
В публикацията Клег изрази увереност в способността на компаниите да етикетират надеждно изображения, генерирани от AI, въпреки че отбеляза, че инструментите за етикетиране на аудио и видео съдържание все още се разработват. Междувременно Meta ще изисква от потребителите да маркират модифицирано аудио и видео съдържание с неопределени глоби за неспазване на това.
„Ще изискваме от хората да използват този инструмент за разкриване и етикетиране, когато публикуват органично съдържание с фотореалистично видео или реалистичен звук, което е цифрово създадено или променено, и може да наложим санкции, ако не го направят“, пише той.
Въпреки това Клег отбеляза, че в момента няма ефективен начин за етикетиране на текст, генериран от AI, което предполага, че е твърде късно да се прилагат такива мерки за писмено съдържание. Това съвпада с нашите доклади, че текстовите детектори на AI не работят.
Съобщението дойде ден след като независимият надзорен съвет на Meta разкритикува политиката на компанията за измамно променени видеоклипове като твърде тясна и препоръча маркиране на такова съдържание, вместо премахването му. Клег се съгласи с критиките, признавайки, че съществуващите политики на Meta са неадекватни за управление на нарастващия обем синтетично и хибридно съдържание в Интернет. Той вижда новата инициатива за етикетиране като стъпка към прилагане на препоръките на наблюдаващия орган и стимулиране на инерция в цялата индустрия за подобни мерки.
Meta признава, че няма да може да открие генерирано от AI съдържание, създадено без водни знаци или метаданни, като изображения, създадени с някои инструменти за синтез на AI изображения с отворен код. Meta проучва технология за водни знаци на изображения, наречена Stable Signature, която се надява да бъде вградена в генератори на изображения с отворен код. Но докато пикселите са пиксели, те могат да бъдат създадени по начини, които не се контролират от технологичната индустрия, и това остава предизвикателство за откриването на AI съдържание, тъй като AI инструментите с отворен код стават по-сложни и реалистични.
Прочетете също: