ビタリック・ブテリンは、人工知能について新たな警告を発した。今回は、誇大宣伝にばかり焦点を当てるのではなく、プライバシーにより重きを置いている。 新しいブログ記事で、イーサリアムの共同創設者は、多くのAIツールが、機微なユーザーデータにアクセスできるリモート基盤の上に構築されており、それが、チャットボットに入力するとき、タスクを委任するとき、あるいは外部サービスを接続するときに多くの人が十分に認識しないリスクを生み出していると主張した。彼が示す懸念は、単一のモデルや単一のアプリに限られるものではない。構造的な問題だ。 リモートAIインフラはより広いプライバシー領域を生む ブテリンの指摘はかなり明確だ。増え続ける数のAI製品は、ユーザー自身の端末の外側、かつユーザーの管理外にあるインフラに依存している。つまり、プロンプト、ファイル、アカウント情報、利用パターンのすべてが、ユーザーが意図していない方法でデータを保存、処理、または再利用する可能性のあるシステムを通過し得るということになる。 彼は、この問題が大規模言語モデルで止まらないとも警告した。そうしたシステムに結び付いた外部サービスは、単純なデータ漏えいから個人情報の不正利用まで、自身の脆弱性を持ち込む可能性がある。言い換えれば、危険なのはモデルだけではない。周囲に連なる“その全チェーン”が問題なのだ。 重要なのは、AIがますます、金融、ソフトウェア、コミュニケーション、オンライン上のアイデンティティにまたがってアシスタント層として販売されているからだ。役に立つほど、それだけプライベートな文脈をより多く吸収しがちになる。 ジェイルブレイクはAIを“助け手”から“負債”へ変える ブテリンは、特定の脅威としてジェイルブレイク攻撃にも言及した。これらの攻撃は、外部からの入力を用いてモデルを、ユーザーの利益に反するような振る舞いをさせる方向へ操作し、結果としてアシスタントを、信頼性が低くなりうる、そして潜在的に有害になり得るものへと実質的に変えてしまう。 この警告は、AIツールが単なる会話にとどまらず、実行へさらに近づいている時期に当たっている。これらのシステムがメッセージ、ウォレット、文書、そして自動化された操作へのアクセスを得るにつれ、プライバシーの失敗は、すぐに業務上の失敗にもなり得る。 ここでブテリンが実際に問題視しているのは、リスクの変化だ。AIはもはや、能力の問題だけではない。信頼境界がどこにあり、データを誰が管理し、モデルがどこで動き、そしてその境界が失敗したときに何が起きるのかという問題になってきている。特に、AIが金融、ソフトウェア、コミュニケーション、オンラインアイデンティティの各分野にまたがるアシスタント層として普及するにつれ、そのプライバシーリスクはより一層深刻になっている。役立つほどに、より多くのプライベートな情報を吸収しやすくなるからだ。
