Image: Tada Images / Shutterstock.com

これ悪用されないのかな？

AIやChatGPTの話が本当に身近になりました。自然に文章で尋ねると、会話してるみたいに答えを教えてくれたり、いろんな仕事を自動化させたり。便利な使い方がたくさんありますけど、いったいどこまで進化を遂げていくんでしょうか…。

自分の声を作ってしまうVoice Engine

このほどOpenAIは、新たなツールとして「Voice Engine」の開発が順調に進んでおり、正式リリースが迫っていることを明らかにしました。すでにOpenAIが多方面に開発分野を広げていることは百も承知。動画を生成してしまうAIツールの「Sora」ですとか、パートナー企業と人型ロボットの「Figure 01」まで作ってしまったり。

Voice Engineは、ベースにChatGPTの音声対話機能などに用いられるテクノロジーが使われています。要は文章で尋ねた答えを返してくれるだけでなく、それを読みあげて話してくれるわけなんですが、なんとVoice Engineを使うと、その話し声が自分そっくりに！

まだ正式公開されていないため、デモから判断するしかありませんが、15秒ほどVoice Engineに向かって話しかけます。すると、あっという間に自分の声が解析され、そっくりに話すクローンが完成。そのままなんでも自分の声で読みあげてしまうというのですから、もう驚きですよね。

便利だが懸念も…

OpenAIは、Voice Engineの可能性は無限大だとアピール。

例えば忙しいパパやママが、Voice Engineで声を完コピさせておくと、まるで自分の声で子どもに物語などの読み聞かせができてしまいます。あるいは、さまざまな原因でスムーズに話せなくなった人に、Voice Engineで自分の声を認識させると、代わりにスラスラ話してくれるようになったり。圧巻なのは、認識させたのは英語の音声なのに、勝手に自分の声で別の言語までしゃべってくれるようになることも。

スゴいことがたくさんできそうで、ワクドキもののVoice Engine。でも、これって例えばオレオレ詐欺なんかに悪用されそうという懸念が、誰の頭にもすぐ浮かぶことでしょう。

すでに米国内でも、似たようなツールとなる「ElevenLabs」を用いて、バイデン大統領の声になりすまし、偽の選挙メッセージを発信したなんて事件が生じました。Voice Engineなら、もっと簡単に同じことができてしまうのでは〜？

OpenAIは、安全で皆のためになるAIの開発に努めています。悪用の危険を見越し、公開に向けては慎重かつ十分な対策を講じていきます。

今回のVoice Engineの発表にあたっては、このような説明が最初に加えられました。どんなテクノロジーでも、当然ながら、悪用される危険とは隣り合わせです。でも、やっぱり心配にもなってくる新ツールではありますよね。

動画だけじゃない。効果音も作れるAIが近日登場 何から何までAIで完成しちゃう。文章入力だけで超リアルな動画を生成できる、OpenAIの新AIツール｢Sora｣。現実世界で撮影したようなクオリティーなので、勘違いする人もたくさん出てきそう…というレベルです。｢Sora｣は映像を作るツールとしては凄まじい性能ですが、そこにはまだ音がありません。そこで開発されているのが、｢だったら効果音もAIで作っちゃえばイイじゃん？｣というもの。｢AI Sou https://www.gizmodo.jp/2024/02/elevenlabs-ai-sound-effects.html

Source: OpenAI