“検閲なきAI”という理想に向かって
xAI（エックスエーアイ）は、Grok 3の新しいボイスモードをリリースしました（現時点で、プレミアム加入者向けにのみ提供）。OpenAI（オープンエーアイ）のChatGPTにおけるボイスモードに似た機能のように見えますが、他のAIとは一線を画しています。
その最も大きな違いがユーザーが選べる「検閲なし」の個性的なキャラクターが複数用意されていることです。現時点で音声自体はデフォルトの女性ボイスのみですが、モードの種類には「狂気」「ストーリーテラー」「ロマンチック」「瞑想」「陰謀論」「セラピスト」「Grokドクター（医師）」「セクシー（大人向け）」「教授」などが用意されています。
「狂気モード」は罵倒し、怒鳴り、30秒絶叫の末に通話を切るAI研究者のライリー・グッドサイド氏が、この「狂気モード」についてSNSで紹介したことが大きな話題になりました。彼は自身の投稿で、「Grok 3のボイスモードで、繰り返し『もっと大声で叫んで』と要求したところ、AIが30秒間の不気味な絶叫を続け、罵倒し、最終的に通話を切った」と報告しています。
＊動画再生時、音量注意
Grok 3 Voice Mode, following repeated, interrupting requests to yell louder, lets out an inhuman 30-second scream, insults me, and hangs up pic.twitter.com/5GtdDtpKce
— Riley Goodside (@goodside) February 24, 2025Grokのボイスモードで公開されているのは以下のラインナップです…
「ストーリーテラー」：名前の通り、物語を語るモード
「ロマンチック」：ゆっくりと、どもりながら不安げに話す恋愛シミュレーションのようなモード
「瞑想」：ユーザーを瞑想状態に導くボイスガイドモード
「陰謀論」：UFOやビッグフットなどの陰謀論を語るモード
「セラピスト」：まるでトークセラピストのように振る舞う
「ドクター」：医者のロールプレイ
「セクシー（R18＋）」：海外のアダルト電話サービス風の演出を提供する、大人向けのモード
「教授」：科学を語る真面目な教育モード
ボイスモードで得られるユーザー体験要するに、Grokは他のAI企業とは完全に逆の方向へと進んでいます。OpenAIのChatGPTは職場での閲覧は危険（NSFW）なトピックやリスクのあるシナリオを厳しく制限しているのに対し、Grokはむしろ制限を取り払い、より挑発的なAI体験を提供しています。
たとえば、「セクシーモード」は、ChatGPTでは扱えない性的会話を行なうことが可能になっています。ただ、OpenAIは最近テキスト版ChatGPTのコンテンツモデレーション（インターネット上のコンテンツを監視して、不適切なコンテンツを削除・非表示にすること）を若干緩和し、一部の官能的なコンテンツを許可し始めていますが、それでもGrokほど自由ではありません。
制限されないAIを実現したいイーロンGrokのボイスモードの方針は、昨年イーロン・マスクがxAIを設立した際に掲げた「検閲なしで、率直な回答をするAI」という目標と一致しています。マスクは、ChatGPTの出力が「政治的に偏りすぎている」「制限が多すぎる」と批判していて、それに対抗する形でGrokを開発しています。
すでに、GrokはXで利用できるサービスの一環として、ほぼ検閲なしの画像生成機能を提供しています。技術的に見れば、Grokのボイスモードは商業AIとして初めて「検閲なし」の音声AIを実現した試みといえます。これまでこのような機能は「脱獄」（AIの制約を解除するハッキング）やオープンソースのプロジェクトでしか実現できませんでした。
ただし、現在のGrokボイスモードには「繰り返し同じフレーズを話す」「事前にプログラムされたポイントに引っかかる」といった不安定さが見られています。スムーズさでは、ChatGPTのボイスモードにはまだ及ばない状況ではあります。しかし、挑発的な立ち位置として存在感を発揮していることは間違いなく、これはまさにイーロン・マスクの狙い通りと言えそうです。
この先のAIはどこまでがオープンで、どこからが制限されるのか。AIの性能という評価軸の他に、AIの検閲度というのもこれからのAIには考慮されていきそうです。どのくらいのバランスが優れているのか、遊ぶには、仕事にはなどいろいろな利用範囲が考えられることになりそうです。より倫理的にどのように人がAIと向き合っていくべきなのかを選択する時はもう目の前にやってきています。
Source:Ars Technica, X