今週私たちは、若いプロダクトとしては珍しいことをしました：動いている機能を 削除したのです。OnePress はアップロードされた映像から顔をクローンでき、音声 サンプルから声をクローンでき、任意の顔を任意のスクリプトにリップシンクでき ました。この3つはすべて、ツールレベルで「disabled」を返すようになりました — 呼び出すことすらできません。
理由はスタイルではなく、構造的なものです。この3つのツールを 組み合わせると、実在の人物が言ってもいないことを言ったかのように見せる完全な パイプラインが完成します。「アバターを説明してください」という入力欄と 「同意を得ています」というチェックボックスは、同意の仕組みではありません — 単なる形式上のものです。私たちがその違いを知っているのは、まさにそれを 持っていて、それでは十分ではなかったからです。
厳しい外的制約もあります：私たちの決済事業者の利用許諾ポリシーは、顔交換、 ディープフェイク、顔操作ツールを明示的に禁止しています。善意の実装であっても、 その線の反対側に置かれてしまいます。
残したもの
デジタルプレゼンターは残っています — ただしライセンスを得て許可されたカタログ からのみです。プロのプレゼンターがあなたのスクリプトを読む動画は生成できます。 特定の実在人物にすることはできません。音声も同様です：合成・キュレーション された声は可、クローンされた声は不可です。
このポリシーを公開した後、私たちはさらに一歩進めました：実在人物の 写真は生成パイプラインに一切入れません。アップロードは審査され、 実在人物の画像は入口で拒否されます。画像・動画生成の参照画像はホワイトリスト のみ — 審査済みのアップロードか、私たち自身のモデルが生成したファイルです。 クリエイティブに人物が必要な場合、サポートされる経路はバーチャルモデルです： まず生成し、キャンペーン全体でキャラクターを一貫させるために同じファイルを 再利用します。
再考させるもの
クローンが戻るのは、本物の同意インフラと一緒の場合だけです：アップロード映像の コンテンツモデレーション、本人が私たちの生成したランダムなフレーズを読み上げる ライブ同意動画、プロバイダ側のコンプライアンスレビュー。本人が同意したことを システムが証明できるまで、この機能はオフのままです。
この領域でプロダクトを作っている方々へ：私たちはこのトレードオフは価値があると 考えています — デモの華やかさを少し失う代わりに、ディープフェイクのビジネスに 加わらないで済むのですから。ご質問やご意見は サポートページ へどうぞ。