有名人

4Chan ユーザーが AI 音声シミュレーターを使用してエマ・ワトソンの声をディープフェイクし、ヒトラーの自伝を読ませたとしてインターネットが警戒

Google と Palantir の元スタッフが共同でスタートアップイレブンラボを立ち上げ、AI 音声クローンツールを通じて有名人の高品質音声ディープフェイクを作成することを目的としていました。しかし、ベータ版のリリースはすぐに裏目に出て、AI音声クローン作成ツールを通じてエマ・ワトソンを含む有名人の声を悪用する人が続出しました。

一部の荒らし行為がお気に入りの有名人の声を悪用して法外なコメントを流した後、多くのファンがAIツールの非倫理的かつ不道徳な使用法に激怒している。しかし、このスタートアップは、さらなる問題を避けるためにモデルを変更するつもりだと全員に保証した。

こちらもお読みください: 「18歳になったから合法だった」：ハリー・ポッターのスターが18歳になったとき、エマ・ワトソンは歩道に寝そべってスカートの写真をクリックしようとしたパパラッチにトラウマを残された

『ノア』のエマ・ワトソン

4ChanユーザーがAIツールを通じてエマ・ワトソンの声を悪用しファン激怒

イレブンラボの AI 音声クローンツールの導入により、多数の荒らし者がこの無料ツールの使用法を悪用し、インターネットが炎上しました。多くの人がこのソフトウェアを使用して健全なコンテンツを生成してきましたが、インターネットの一部ではこのツールを悪用して、有名人に人種的中傷や法外なコメントを吐き出させたり、悪用したりしています。エマ・ワトソンの声が最後の藁だった。

最近。マザーボードは、攻撃的なディープフェイクオーディオを作成するための AI ソフトウェアの極度の悪用を報告しました。しかし、ラクダの背中を折ったストローは 4Chan ユーザーであり、そのクリップが生成されました。 ハリーポッター スター、エマ・ワトソンの読書 私の戦い 、ナチスの独裁者アドルフ・ヒトラーの自伝。

エマ・ワトソンやジョー・ローガン、ロビン・ウィリアムズなどの著名なセレブに関するこの非倫理的なソフトウェアの使用にファンは激怒している。テクノロジーを一般公開したイレブンラボは、この増大する問題に取り組み、この問題と戦うことを誓った。音声複製ツールの悪用。

こちらもお読みください: 『アズカバンの囚人』監督、ハリー・ポッターのトリオに自分たちのキャラクターについてエッセイを書くよう依頼 – エマ・ワトソンは16ページ書き、ダニエル・ラドクリフは1ページの要約を書いたが、ルパート・グリントは1ページも書かなかった

ハリー・ポッターシリーズのハーマイオニー・グレンジャー役のエマ・ワトソン

イレブンラボはAIツールのさらなる悪用を避けることを誓う

多くの人が健全な創作のために AI 音声クローンツールを使用していたため、スタートアップは当初、彼らに対する肯定的な反応に圧倒されました。しかし、荒らしがこのソフトウェアを悪用し始めたため、同社はすぐに問題に直面しました。イレブンラボは、この問題を深く調査し、考えられる解決策を考えているとインターネットに保証した。

イレブンラボの作成者は、AI ツールの機能を悪用しているユーザーを追跡できることを認めましたが、この問題を回避するための追加の安全対策を模索しています。作成者らは、この問題に対処するためのさまざまなアイデアを共有しました。これには、クローン作成ごとの手動検証の導入や、支払いまたはその他の方法によるユーザーの完全な ID 検証が含まれます。

こちらもお読みください: 「彼らは彼女に意見をさせるべきだ」：ヘレナ・ボナム・カーターはエマ・ワトソンとダニエル・ラドクリフのファンではなく、JKに対して抗議しているローリングがファン層を守る