Manchmal trifft der Gegenwind schneller ein als die Bedienungsanleitung. Meta musste dies auf die harte Tour lernen, als es still und leise ...

Manchmal trifft der Gegenwind schneller ein als das Produkthandbuch. Meta musste dies auf die harte Tour lernen, als das Unternehmen stillschweigend eine neue Funktion in seinem Muse Image AI-Modell einführte, nur um wenige Tage später inmitten einer Welle der Entrüstung einen Kurswechsel vorzunehmen. Das Tool ermöglichte es jedem Instagram-Nutzer, KI-Bilder zu generieren, indem er einfach einen öffentlichen Account in seinem Prompt markierte. Durch das Tippen einer @-Erwähnung konnten Nutzer das System anweisen, neue visuelle Inhalte zu synthetisieren, die auf dem Aussehen, der Ästhetik oder den geposteten Inhalten des Ziel-Accounts basierten. Meta hat die Funktion nun vollständig deaktiviert. Dieser Vorfall gilt als einer der abruptesten Rückzüge im jüngsten Bestreben des Unternehmens, generative KI in all seinen Plattformen zu integrieren.

Die Funktion, die Empörung auslöste

Die Funktionsweise war unkompliziert, und genau das war das Problem. Ein Nutzer konnte Meta AI öffnen, ein gewünschtes Bild beschreiben und auf einen öffentlichen Instagram-Handle verweisen. Das Modell analysierte dann die öffentlich sichtbaren Fotos dieses Accounts und generierte derivative Bilder, die das Gesicht, den Körper, den Kleidungsstil oder den künstlerischen Ansatz der Person widerspiegelten. Für Schauspieler, Fotografen, Models und alltägliche Nutzer, die ihre Profile öffentlich halten, bedeutete dies, dass ihre digitalen Identitäten ohne direkte Anfrage oder Warnung neu zusammengestellt werden konnten.

Meta bewarb die Funktion als kreativen Beschleuniger. Das Unternehmen stellte sich wahrscheinlich vor, wie Fans stilisierte Porträts ihrer Lieblingsschöpfer oder Künstler erstellen, die visuelle Themen neu interpretieren. Doch die Kluft zwischen Absicht und Umsetzung war gewaltig. Da das Tool keine ausdrückliche Zustimmung des Kontoinhabers erforderte, wurde jedes öffentliche Profil zu potenziellem Rohmaterial für jeden, der eine Tastatur bedienen konnte. Private Accounts waren nicht betroffen, aber für die Millionen von Nutzern, deren Profile aus beruflichen oder sozialen Gründen öffentlich bleiben, erklärte die Plattform deren Aussehen faktisch zur freien Verfügung für die algorithmische Wiederverwendung. Es handelte sich nicht um massenhaftes Daten-Scraping im herkömmlichen Sinne. Es war eine gezielte Synthese realer Personen auf Abruf.

Kritiker wiesen schnell darauf hin, dass dies die grundlegende Logik der digitalen Einwilligung umkehrte. Die meisten Plattformen, die die Nutzung persönlicher Bilder durch Dritte erlauben – selbst unter weiten Nutzungsbedingungen –, überlassen es nicht wahllosen Nutzern, das Aussehen einer Person nach Belieben zu klonen. Dieser Unterschied ist entscheidend. Das passive Scraping öffentlicher Fotos für einen Trainingsdatensatz ist eine ethische Debatte; die aktive, nutzergesteuerte Deepfake-Generierung, die auf spezifische Personen zugeschnitten ist, eine völlig andere. Indem Meta öffentliche Accounts zum Ziel für die KI-Synthese machte, verwischte das Unternehmen die Grenze zwischen öffentlicher Sichtbarkeit und der öffentlichen Preisgabe von Identitätsrechten.

Datenschutzrisiken und das „Opt-Out“-Problem

Die Kritik kam aus verschiedenen Richtungen und war vernichtend. Datenschützer, Kreativgewerkschaften und Sicherheitsorganisationen schlossen sich zusammen, um darauf hinzuweisen, dass Meta das System von Grund auf falsch konzipiert hatte.

Haley McNamara, Exekutivdirektorin des National Center on Sexual Exploitation, warnte davor, dass die Funktion zu einem offensichtlichen Werkzeug für Sextortion und andere Betrugsmaschen werden könnte. Ihre Sorge war nicht hypothetisch. Bildbasierter Missbrauch hat zugenommen, da sich generative Tools stetig verbessert haben. Ein System, das es jedem Nutzer ermöglicht, das Aussehen einer anderen Person sofort zu imitieren und sie in beliebige Szenarien zu versetzen, nimmt die Hürden aus einem Prozess, der zuvor zumindest ein gewisses technisches Geschick erforderte. Metas Funktion industrialisierte im Wesentlichen den ersten Schritt der bildbasierten Ausbeutung.

Erschwerend kam hinzu, dass