Іноді хвиля негативу приходить швидше, ніж інструкція до продукту. Meta засвоїла це на власному гіркому досвіді, коли тихо впровадила нову можливість у своїй моделі Muse Image AI, лише для того, щоб через кілька днів відступити під шквалом критики. Інструмент дозволяв будь-якому користувачу Instagram створювати ШІ-зображення, просто тегуючи публічний акаунт у своєму запиті. Вводячи згадку через @, користувачі могли спрямувати систему на синтез нових візуальних образів, заснованих на зовнішності, естетиці або опублікованому контенті цільового акаунта. Тепер Meta повністю вимкнула цю функцію. Цей епізод став одним із найбільш різких відступів у нещодавніх намаганнях компанії інтегрувати генеративний ШІ у свої платформи.
Функція, що викликала обурення
Механіка була простою, і саме в цьому полягала проблема. Користувач міг відкрити Meta AI, описати бажане зображення та згадати публічний Instagram-акаунт. Потім модель аналізувала публічно доступні фото цього акаунта і створювала похідні зображення, що повторювали обличчя, тіло, стиль одягу або художній підхід об'єкта. Для акторів, фотографів, моделей та звичайних користувачів, які тримають свої профілі відкритими, це означало, що їхні цифрові ідентичності могли бути перероблені без жодного прямого запиту чи попередження.
Meta позиціонувала цю функцію як прискорювач творчості. Компанія, ймовірно, уявляла, як фанати створюють стилізовані портрети своїх улюблених авторів або митців, граючи з візуальними темами. Але прірва між наміром і реалізацією була величезною. Оскільки інструмент не потребував чіткої згоди власника акаунта, кожен публічний профіль ставав потенційною сировиною для будь-кого, хто має клавіатуру. Приватні акаунти не постраждали, але для мільйонів користувачів, чиї профілі залишаються публічними з професійних чи соціальних причин, платформа фактично оголосила їхню зовнішність відкритою для алгоритмічного повторного використання. Це не був масовий збір даних (scraping) у традиційному розумінні. Це був цілеспрямований синтез реальних людей за запитом.
Критики швидко вказали на те, що це перевертає базову логіку цифрової згоди. Більшість платформ, які дозволяють третім сторонам використовувати персональні зображення (навіть згідно з широкими умовами надання послуг), не передають контроль випадковим користувачам, щоб ті могли за власним бажанням клонувати чиюсь зовнішність. Ця різниця має значення. Пасивний збір публічних фото для навчального набору даних — це одна етична битва; активна, керована користувачем генерація дипфейків, пов'язана з конкретними людьми, — зовсім інша. Зробивши публічні акаунти легкою здобиччю для ШІ-синтезу, Meta розмила межу між публічною видимістю та публічною відмовою від прав на ідентичність.
Ризики для конфіденційності та проблема «відмови від участі»
Критика надходила з різних боків і була дуже гострою. Захисники конфіденційності, творчі спілки та організації з безпеки — усі вони виступили проти, вказуючи на те, що Meta побудувала систему за принципом «від зворотного».
Хейлі Макнамара, виконавчий директор Національного центру боротьби з сексуальною експлуатацією, попередила, що ця функція може стати очевидним інструментом для сексторшну (сексуального шантажу) та інших видів шахрайства. Її побоювання не були гіпотетичними. Зловживання на основі зображень поширилися разом із вдосконаленням генеративних інструментів. Система, яка дозволяє будь-якому користувачеві миттєво наближено відтворити зовнішність іншої людини та помістити її в довільні сценарії, усуває перешкоди в процесі, який раніше потребував хоча б певної технічної підготовки. Функція Meta фактично індустріалізувала перший крок до експлуатації на основі зображень.
Ще більше ситуацію ускладнювало...