Esta semana hicimos algo inusual para un producto joven: eliminamos funciones que funcionaban. OnePress podía clonar un rostro a partir de metraje subido, clonar una voz a partir de una muestra de audio y hacer lip-sync de cualquier rostro con cualquier guion. Las tres ahora devuelven "disabled" a nivel de herramienta — no se pueden invocar en absoluto.
La razón es estructural, no estilística. Junta esas tres herramientas y obtienes un pipeline completo para hacer que una persona real parezca decir cosas que nunca dijo. Un campo de "describe tu avatar" y una casilla que dice "tengo consentimiento" no son un mecanismo de consentimiento — son una formalidad. Conocemos la diferencia porque teníamos exactamente eso, y no era suficiente.
También hay una restricción externa dura: la política de uso aceptable de nuestro procesador de pagos prohíbe explícitamente las herramientas de face-swap, deepfake y manipulación de rostros. Incluso una implementación bien intencionada quedaría del lado equivocado de esa línea.
Lo que conservamos
Los presentadores digitales siguen aquí — pero solo desde un catálogo licenciado y autorizado. Puedes generar un video donde un presentador profesional lee tu guion; lo que no puedes es hacer que sea una persona real específica. Lo mismo con el audio: voces sintetizadas y curadas, sí; voces clonadas, no.
Dimos un paso más después de publicar esta política: ninguna foto de una persona real puede entrar en el pipeline de generación. Las subidas se filtran y las imágenes de personas reales se rechazan en la puerta; las imágenes de referencia para generación de imagen y video son solo de lista blanca — subidas filtradas o archivos que produjeron nuestros propios modelos. Si tu pieza creativa necesita una persona, el camino soportado es un modelo virtual: genera uno y luego reutiliza ese mismo archivo para mantener un personaje consistente en toda una campaña.
Qué nos haría reconsiderarlo
La clonación solo volverá con infraestructura de consentimiento real: moderación de contenido sobre el metraje subido, un video de consentimiento en vivo donde la persona lee una frase aleatoria que generamos nosotros, y una revisión de cumplimiento del lado del proveedor. Hasta que un sistema pueda demostrar que la persona estuvo de acuerdo, la función permanece apagada.
Si construyes productos en este espacio, creemos que el intercambio vale la pena: una pequeña pérdida de brillo en la demo a cambio de no estar en el negocio de los deepfakes. Preguntas o desacuerdos son bienvenidos en nuestra página de soporte.