Cette semaine, nous avons fait quelque chose d'inhabituel pour un jeune produit : nous avons retiré des fonctionnalités qui marchaient. OnePress pouvait cloner un visage à partir d'une vidéo envoyée, cloner une voix à partir d'un échantillon audio, et synchroniser les lèvres de n'importe quel visage sur n'importe quel script. Les trois renvoient désormais « disabled » au niveau de l'outil — on ne peut plus les invoquer du tout.
La raison est structurelle, pas cosmétique. Mets ces trois outils bout à bout et tu obtiens un pipeline complet pour faire dire à une personne réelle des choses qu'elle n'a jamais dites. Un champ « describe your avatar » et une case à cocher « I have consent » ne sont pas un mécanisme de consentement — c'est une formalité. Nous connaissons la différence parce que nous avions exactement ça, et ce n'était pas suffisant.
Il y a aussi une contrainte externe dure : la politique d'utilisation acceptable de notre prestataire de paiement interdit explicitement les outils de face-swap, de deepfake et de manipulation de visages. Même une implémentation bien intentionnée se retrouverait du mauvais côté de cette ligne.
Ce que nous avons gardé
Les présentateurs virtuels sont toujours là — mais uniquement issus d'un catalogue sous licence et autorisé. Tu peux générer une vidéo où un présentateur professionnel lit ton script ; tu ne peux juste pas en faire une personne réelle précise. Pareil pour l'audio : voix synthétisées et sélectionnées, oui ; voix clonées, non.
Nous sommes allés un cran plus loin après la publication de cette politique : aucune photo de personne réelle ne peut plus entrer du tout dans le pipeline de génération. Les uploads sont filtrés et les images de personnes réelles sont refusées à l'entrée ; les images de référence pour la génération d'images et de vidéos sont sur liste blanche uniquement — uploads filtrés ou fichiers produits par nos propres modèles. Si ta création a besoin d'une personne, le chemin supporté est un modèle virtuel : génères-en un, puis réutilise ce même fichier pour un personnage cohérent sur toute une campagne.
Ce qui pourrait nous faire revenir dessus
Le clonage ne reviendra qu'avec une vraie infrastructure de consentement : modération de contenu sur les vidéos envoyées, vidéo de consentement en direct où la personne lit une phrase aléatoire que nous générons, et revue de conformité côté fournisseur. Tant qu'un système ne peut pas prouver que la personne a accepté, la fonctionnalité reste éteinte.
Si tu construis des produits dans ce domaine, nous pensons que l'échange en vaut la peine : un petit effet de démo en moins, contre le fait de ne pas être dans le business du deepfake. Questions ou désaccords bienvenus sur notre page de support.