Контент, улучшенный искусственным интеллектом, будет сопровождаться предупреждающей надписью в TikTok. (The Daily Upside)
В четверг популярный гигант короткометражных видео, который, возможно, скоро будет запрещен, объявил, что начнет маркировать контент, созданный как с использованием собственных инструментов генеративного искусственного интеллекта, так и с инструментами третьих лиц. Это признак того, что растущий мир искусственного интеллекта может развиваться в направлении отраслевых стандартов.
Несмотря на всю шумиху вокруг генеративного ИИ, это огромная проблема для цифровых медиа-платформ и их пользователей: никогда не было так легко наводнить зону быстро созданным и зачастую спам-контентом. Google, например, ведет войну со спам-страницами, созданными с помощью искусственного интеллекта и предназначенными для того, чтобы подняться на вершину результатов поиска, и может даже начать взимать плату с пользователей за результаты более высокого качества. Между тем, на фоне крупнейших выборов в истории человечества политическое соперничество почти гарантированно будут распространять дезинформацию, созданную искусственным интеллектом, и дипфейки.
Таким образом, TikTok, возможно, из-за постоянных вопросов о его центральной роли в медиа-диете молодых американцев, становится активным. Платформа уже маркирует контент, созданный с помощью ее собственных инструментов искусственного интеллекта, но теперь TikTok заявляет, что планирует идентифицировать и маркировать контент, созданный другими инструментами искусственного интеллекта, такими как Adobe Firefly и Dall-E от OpenAI. Это опережает конкурентов в социальных сетях, но лишь незначительно.
TikTok будет использовать систему цифровых водяных знаков под названием Content Credentials, систему, разработанную отраслевой группой Коалиция за происхождение и подлинность контента (созданную Adobe, Microsoft и другими), которая имплантирует маркер «сделано с помощью ИИ» под капотом ИИ. в генерируемый контент. Система TikTok будет идентифицировать и маркировать контент, отмеченный знаком Content Credentials.
Ранее на этой неделе OpenAI заявила, что начнет включать знак Content Credentials в цифровые отпечатки контента, создаваемого ее платформами. YouTube и Meta уже заявили, что планируют в конечном итоге внедрить эту технологию и водяной знак.
Но у системы есть свои ограничения. Прежде всего, это требует от производителя инструментов генеративного искусственного интеллекта внедрения водяного знака Content Credentials в метаданные своих продуктов. Таким образом, хотя OpenAI может согласиться, другие — нет. В марте канал NBC News сообщил, как легко злоумышленники могут обойти или удалить водяные знаки . Одним из очевидных примеров является то, что кто-то просто записывает видео, созданное искусственным интеллектом, обрезает или повторно редактирует его, чтобы удалить водяной знак, а затем повторно загружает.
Автор Брайан Бойл
(в пересказе)
Некоммерческое сообщество журналистов
