इस हफ़्ते हमने एक ऐसा काम किया जो किसी नए product के लिए असामान्य है: हमने काम करते हुए features हटा दिए। OnePress uploaded footage से face clone कर सकता था, किसी audio sample से voice clone कर सकता था, और किसी भी face को किसी भी script पर lip-sync करा सकता था। तीनों अब tool level पर "disabled" return करते हैं — उन्हें invoke ही नहीं किया जा सकता।
वजह structural है, stylistic नहीं। उन तीनों tools को साथ रखिए और आपके पास एक complete pipeline बन जाती है जो किसी असली व्यक्ति को वह कहते हुए दिखा सके जो उसने कभी कहा ही नहीं। एक "describe your avatar" field और एक checkbox जिस पर लिखा हो "I have consent" — यह consent mechanism नहीं है, यह एक formality है। हमें अंतर इसलिए पता है क्योंकि हमारे पास बिल्कुल यही था, और वह काफ़ी नहीं था।
एक hard external constraint भी है: हमारे payment processor की acceptable-use policy face-swap, deepfake और face-manipulation tools को साफ़-साफ़ मना करती है। भले ही कोई well-intentioned implementation हो, वह उस line के ग़लत पार ही खड़ा होगा।
हमने क्या रखा
Digital presenters अब भी मौजूद हैं — लेकिन सिर्फ़ एक licensed, authorized catalog से। आप ऐसा video generate कर सकते हैं जिसमें एक professional presenter आपकी script पढ़े; आप बस उसे किसी ख़ास असली व्यक्ति नहीं बना सकते। Audio के लिए भी वही: synthesized और curated voices, हाँ; cloned voices, नहीं।
इस policy को publish करने के बाद हम एक क़दम और आगे गए: कोई भी असली-व्यक्ति की photo generation pipeline में बिल्कुल दाख़िल नहीं हो सकती। Uploads को screen किया जाता है और असली-व्यक्ति की images दरवाज़े पर ही refuse कर दी जाती हैं; image और video generation के लिए reference images whitelist-only हैं — screened uploads या हमारे अपने models से बनी files। अगर आपके creative को किसी व्यक्ति की ज़रूरत है, तो supported path एक virtual model है: एक generate करें, फिर उसी file को पूरे campaign में consistent character के लिए reuse करें।
क्या हमें दोबारा सोचने पर मजबूर करेगा
Cloning सिर्फ़ असली consent infrastructure के साथ वापस आएगी: uploaded footage पर content moderation, एक live consent video जिसमें व्यक्ति हमारे generate किए हुए randomized phrase को पढ़े, और provider-side compliance review। जब तक कोई system यह साबित न कर सके कि व्यक्ति ने सहमति दी, feature बंद रहेगा।
अगर आप इस space में products बनाते हैं, तो हमें लगता है यह सौदा worth it है: थोड़ी सी demo sizzle की कमी, deepfake business में न होने के बदले। सवाल या असहमति हमारे support page पर स्वागत योग्य है।