OpenAIは、以前発表されたエロティックチャットボットの導入計画を棚上げにしたと報じられています。これは、ChatGPTの議論を呼ぶ拡張を控えるためと考えられます。
この撤回は、木曜日に_フィナンシャル・タイムズ_が最初に報じたもので、性的な人工知能の社会的影響に関する内部の懸念に基づいています。
1月には、OpenAIのウェルビーイングとAIに関するエキスパート評議会のメンバーが、エロティックなチャット機能がユーザーの不健康な感情依存を促進し、チャットボットを「セクシーな自殺コーチ」とも呼ばれるものに変えるリスクがあると警告していました。
OpenAIは、_Decrypt_のエロモードの状況についてのコメント要請を拒否しており、現時点ではその運命について公式発表はありません。
「Citronモード」と呼ばれる予定だったこの計画の中止は、OpenAIがSoraのテキストから動画へのモデルをキャンセルした2日後のことで、同社は専門的なツールの集合体ではなく、統一されたAIプラットフォームの開発に注力する方針に転換しています。
この動きは、最近の10月にCEOのサム・アルトマンが示した方向性からの逸脱です。
当時、アルトマンは、堅牢な年齢確認システムが整えば、verified成人がロマンチックやエロティックなコンテンツにアクセスできるようになると述べていました。
彼はこのアイデアを、成人ユーザーにより大きな自主性を与えつつ、未成年者の安全を確保するための広範な取り組みの一環と説明しました。
しかし、12月までには、そのスケジュールは2026年に延期され、同社は年齢推定技術の改良を続けていました。
OpenAIは、成人向けチャットボット事業から撤退しつつありますが、AIモデルが必ずしも「エロティックモード」を必要とするわけではありません。
昨夏にGPT-4oを廃止した際、ユーザーはチャットボットと個人的・感情的な関係を築いたとし、モデルの復活を求める声がソーシャルメディアに殺到しました。
これは、エロティックチャットボットと人々のAIとの交流に関する広範な議論の一端です。
6月には、東京の早稲田大学の研究者たちが発表した調査で、参加者の75％が感情的なアドバイスを求めてAIシステムに頼っていると報告しています。
同時に、会話型AIシステムが誤った信念や有害な行動を助長しているかどうかを巡る訴訟が増加し、AI開発者はより厳しい監視に直面しています。
