Diese Woche haben wir etwas für ein junges Produkt Ungewöhnliches getan: Wir haben funktionierende Features entfernt. OnePress konnte ein Gesicht aus hochgeladenem Filmmaterial klonen, eine Stimme aus einem Audiosample klonen und jedes Gesicht auf ein beliebiges Skript lip-synchronisieren. Alle drei geben jetzt auf Tool-Ebene „disabled" zurück — sie lassen sich überhaupt nicht mehr aufrufen.
Der Grund ist strukturell, nicht stilistisch. Kombiniere diese drei Tools und du hast eine komplette Pipeline, um einen echten Menschen Dinge sagen zu lassen, die er nie gesagt hat. Ein „beschreibe deinen Avatar"-Feld und eine Checkbox mit „ich habe eine Einwilligung" ist kein Consent-Mechanismus — es ist eine Formalität. Wir kennen den Unterschied, weil wir genau das hatten — und es nicht genug war.
Es gibt außerdem eine harte externe Bedingung: Die Acceptable-Use-Policy unseres Zahlungsabwicklers verbietet ausdrücklich Face-Swap-, Deepfake- und Face-Manipulation-Tools. Selbst eine wohlmeinende Implementierung stünde auf der falschen Seite dieser Linie.
Was wir behalten haben
Digitale Presenter gibt es weiterhin — aber nur aus einem lizenzierten, autorisierten Katalog. Du kannst ein Video erzeugen, in dem ein professioneller Presenter dein Skript liest; du kannst ihn nur nicht zu einer bestimmten echten Person machen. Dasselbe bei Audio: synthetisierte und kuratierte Stimmen, ja; geklonte Stimmen, nein.
Nach der Veröffentlichung dieser Policy sind wir noch einen Schritt weiter gegangen: Fotos echter Personen dürfen die Generierungs-Pipeline überhaupt nicht betreten. Uploads werden gescreent und Bilder echter Personen an der Tür abgelehnt; Referenzbilder für Bild- und Videogenerierung sind reine Whitelist — gescreente Uploads oder Dateien, die unsere eigenen Modelle erzeugt haben. Braucht dein Creative eine Person, ist der unterstützte Weg ein virtuelles Modell: erzeuge eines und verwende dann dieselbe Datei für einen konsistenten Charakter über eine ganze Kampagne hinweg.
Was uns zum Umdenken brächte
Cloning kommt nur mit echter Consent-Infrastruktur zurück: Content-Moderation auf hochgeladenem Material, ein Live-Consent-Video, in dem die Person eine randomisierte, von uns generierte Phrase vorliest, und ein Compliance-Review auf Provider-Seite. Bis ein System beweisen kann, dass die Person zugestimmt hat, bleibt das Feature aus.
Wenn du Produkte in diesem Bereich baust: Wir halten diesen Tausch für wertvoll — ein kleiner Verlust an Demo-Funkeln dafür, nicht im Deepfake-Geschäft zu sein. Fragen oder Widerspruch willkommen auf unserer Support-Seite.