Bu hafta genç bir ürün için alışılmadık bir şey yaptık: çalışan özellikleri kaldırdık. OnePress, yüklenen görüntülerden bir yüzü klonlayabiliyor, bir ses örneğinden ses klonlayabiliyor ve herhangi bir yüzü herhangi bir metne dudak senkronize edebiliyordu. Üçü de artık araç seviyesinde "disabled" döndürüyor — hiç çağrılamıyorlar.
Sebep üslupsal değil, yapısal. Bu üç aracı yan yana koyun; gerçek bir insanı hiç söylemediği şeyleri söylüyormuş gibi gösteren eksiksiz bir hat elde edersiniz. Bir "avatarınızı tarif edin" alanı ile "onayım var" diyen bir onay kutusu, rıza mekanizması değildir — formalitedir. Farkı biliyoruz çünkü tam olarak buna sahiptik ve yeterli değildi.
Bir de katı bir dış kısıt var: ödeme işlemcimizin kabul edilebilir kullanım politikası yüz değiştirme, deepfake ve yüz manipülasyonu araçlarını açıkça yasaklıyor. İyi niyetli bir uygulama bile o çizginin yanlış tarafında kalırdı.
Neyi tuttuk
Dijital sunucular hâlâ burada — ama yalnızca lisanslı, yetkilendirilmiş bir katalogdan. Profesyonel bir sunucunun metninizi okuduğu bir video üretebilirsiniz; sadece onu belirli gerçek bir kişi yapamazsınız. Ses için de aynı: sentezlenmiş ve derlenmiş sesler evet; klonlanmış sesler hayır.
Bu politikayı yayınladıktan sonra bir adım daha ileri gittik: hiçbir gerçek insan fotoğrafı üretim hattına giremiyor. Yüklemeler taranıyor ve gerçek kişi görüntüleri kapıda reddediliyor; görsel ve video üretimi için referans görseller yalnızca beyaz listeden — taranmış yüklemeler veya kendi modellerimizin ürettiği dosyalar. Kreatifiniz bir insana ihtiyaç duyuyorsa, desteklenen yol sanal bir modeldir: bir tane üretin, sonra tüm kampanyada tutarlı karakter için aynı dosyayı tekrar kullanın.
Bizi yeniden düşündürecek şey
Klonlama ancak gerçek bir rıza altyapısıyla geri döner: yüklenen görüntülerde içerik moderasyonu, kişinin bizim ürettiğimiz rastgele bir ifadeyi okuduğu canlı bir rıza videosu ve sağlayıcı tarafında bir uyum incelemesi. Bir sistem kişinin onayladığını kanıtlayana kadar özellik kapalı kalır.
Bu alanda ürün geliştiriyorsanız, bu takasın değdiğini düşünüyoruz: deepfake işinde olmamak için küçük bir demo gösterişi kaybı. Sorularınızı veya katılmadığınız noktaları destek sayfamızdan iletebilirsiniz.