Что такое С2PA и чем она поможет рядовым пользователям

Обман и мошенники в интернете существовали едва ли не на всех этапах его существования. Однако именно с развитием нейросетей мошеннические схемы стали особенно правдоподобными. Любой желающий, далее не обладая специальными знаниями, может сгенерировать правдоподобный текст в желаемом стиле, который потом прочитает ИИ-аватар голосом, который также сгенерирует нейросеть и все это получится пугающе реалистичным. Однако работа нейросетей оставляет артефакты, невидимые человеческому глазу, но понятные машине. Вот почему для поиска ИИ-контента часто используются нейросети. С2PA же вместо поиска фейковой информации предлагает маркировать вообще любой медиа контент в интернете.

Что такое С2PA

В первую очередь, то инициатива по контролю за фейковой информацией, которую создали крупные технологические компании, включая Facebook, Google, Twitter и Microsoft, Adobe, Intel, ARM, Sony, Nikon и многие другие. Она получила название Coalition for Content Provenance and Authenticity или Коалиция за подлинность контента. Это сотрудничество направлено на разработку технологий и стандартов для борьбы с дезинформацией в цифровом пространстве.
Но также это разработанный Коалицией стандарт, который позволяет встраивать метаданные для проверки любого медиаконтента.

Как это работает

Проверка на фальсификации может включать в себя анализ текста, изображений, видео и аудиофайлов на повторяемость, оценку контекста, а также поиск нетипичных артефактов или аномалий. Но С2PA делает ставку на метаданные, которые добавляются к сгенерированному файлу автоматически. Причем для файла, подвергшегося большому количеству изменений, можно посмотреть всю историю правок, не только внесенных при помощи ИИ, но также сделанных вручную в редакторах.

Это и правда работает?

Да, но с оговорками. Вы можете проверить свой файл на официальном сайте С2PA, однако это не всегда работает должным образом. Так, если файл был сгенерирован до введения стандартизации, соответствующих маркеров на нем не обнаружится, а если кто-то захочет скрыть факт искусственного происхождения того или иного контента, метаданные легко можно удалить. По понятным причинам, метки будут отсутствовать на скриншотах с сомнительным контентом. Кроме того, многие мессенджеры и соцсети сжимают все загружаемые картинки и видео, так что метаданные тоже могут случайно пойти “под нож”.

Что дальше?

С2PA, появившаяся два года назад, стремительно растет, а количество ее участников все время увеличивается. В ближайшие годы нам стоит ждать повсеместного внедрения нового стандарта, более жестких инструментов для контроля за контентом, публикуемым в Сети и, конечно, закрытие лазеек, которые позволили бы злоумышленникам выдавать свой контент за подлинный.