Иногда обратная реакция наступает быстрее, чем инструкция к продукту. Meta усвоила этот урок на собственном горьком опыте, когда тайно внедрила новую возможность в свою модель Muse Image AI, но спустя всего несколько дней была вынуждена отступить под шквалом критики. Инструмент позволял любому пользователю Instagram генерировать изображения с помощью ИИ, просто тегируя публичный аккаунт в своем запросе. С помощью @-упоминания пользователи могли направлять систему на синтез новых визуальных образов, основанных на внешности, эстетике или опубликованном контенте целевого аккаунта. В итоге Meta полностью отключила эту функцию. Этот эпизод стал одним из самых резких отступлений в недавних попытках компании интегрировать генеративный ИИ во все свои платформы.
Функция, вызвавшая возмущение
Механика была простой, и именно в этом заключалась проблема. Пользователь мог открыть Meta AI, описать желаемое изображение и сослаться на публичный аккаунт в Instagram. Затем модель анализировала общедоступные фотографии этого аккаунта и создавала производные изображения, которые повторяли лицо, тело, стиль одежды или художественный подход субъекта. Для актеров, фотографов, моделей и обычных пользователей, чьи профили открыты, это означало, что их цифровые личности могли быть подвергнуты ремикшированию без какого-либо прямого запроса или предупреждения.
Meta позиционировала эту функцию как ускоритель творчества. Вероятно, компания представляла себе, как фанаты создают стилизованные портреты своих любимых авторов или художников, обыгрывая визуальные темы. Однако пропасть между намерением и реализацией оказалась огромной. Поскольку инструмент не требовал явного согласия владельца аккаунта, каждый публичный профиль становился потенциальным сырьем для любого, у кого есть клавиатура. Частные аккаунты не пострадали, но для миллионов пользователей, чьи профили остаются открытыми по профессиональным или социальным причинам, платформа фактически объявила их внешность доступной для алгоритмического повторного использования. Это не был массовый сбор данных в традиционном понимании. Это был целенаправленный синтез образов реальных людей по запросу.
Критики быстро отметили, что это перевернуло базовую логику цифрового согласия. Большинство платформ, допускающих использование личных изображений третьими лицами (даже в рамках широких условий обслуживания), не передают контроль случайным пользователям, позволяя им клонировать чью-либо внешность по своему желанию. Эта разница имеет значение. Пассивный сбор публичных фотографий для обучающего набора данных — это одна этическая проблема; активная, направляемая пользователем генерация дипфейков, привязанная к конкретным людям — совсем другая. Сделав публичные аккаунты легкой добычей для ИИ-синтеза, Meta стерла грань между публичной видимостью и публичным отказом от прав на свою идентичность.
Риски конфиденциальности и проблема «отказа от участия»
Критика поступала с разных сторон и была весьма жесткой. Защитники конфиденциальности, творческие союзы и организации по безопасности единодушно указали на то, что Meta построила систему задом наперед.
Хейли Макнамара, исполнительный директор Национального центра по борьбе с сексуальной эксплуатацией, предупредила, что эта функция может стать очевидным инструментом для сексторшна и других видов мошенничества. Ее опасения не были гипотетическими. По мере совершенствования генеративных инструментов участились случаи злоупотреблений с использованием изображений. Система, позволяющая любому пользователю мгновенно приблизить образ другого человека и поместить его в произвольные сценарии, устраняет барьеры в процессе, который ранее требовал хотя бы определенных технических навыков. Функция Meta, по сути, индустриализировала первый шаг к эксплуатации на основе изображений.
Ситуацию дополнительно осложняло