「養虾」が流行、安全性の問題も浮上:国産「ロブスター」の防御は十分か?

robot
概要作成中

21世紀経済報道の記者、章驰

「養虾」は過去半月の「現象的」な話題です。「龍虾」と呼ばれるオープンソースのインテリジェンスエージェントOpenClawは、その驚くべき能力で成功裏に話題を集めました。一方、Metaのセキュリティディレクターのメール削除など、OpenClawの制御不能事件も発生し、これまで業界内でのみ議論されていたAIエージェントのセキュリティとプライバシーの問題がスポットライトを浴びています。「虾の養成」安全性が一般の関心事となり、一部の虾養成者は「引退・アンインストール」を進めています。

最近、工業情報化部、国家インターネット緊急センター、国家工業情報セキュリティ発展研究センターが次々とリスク警報を発表しました。OpenClawは、効果的な権限管理戦略やセキュリティ監査メカニズムが欠如している場合、システムの制御喪失や機密情報漏洩など一連のセキュリティリスクを引き起こす可能性があります。

最近、国内の主要なテクノロジー企業は次々と自社の「龍虾」製品をリリースし、データ隔離、安全ツールの呼び出し、最小権限付与、誤操作の取り消しなどの仕組みを通じて、「龍虾養成」の安全性を向上させています。専門家は、企業レベルのユーザーが「龍虾」を展開する際には、特に実際のニーズに注意し、安全な環境を構築する必要があると指摘しています。

ゴリラがAK47を手に取る、国産「龍虾」の防御策は?

イーロン・マスクは最近、ソーシャルメディアにてAK47を黒猩猩に渡す写真を投稿し、人類がOpenClawを使用する際の潜在的なリスクを暗示しました。

少し前、MetaのセキュリティディレクターはOpenClawを使ってメールを整理している最中、「許可されていない操作を行わない」という安全指示を無視したことに気づき、緊急停止を3回試みたものの効果がなく、最終的にすべての業務メールが消去され、大きな損失を被ったと報告しています。

国家情報セキュリティ脆弱性データベース(CNNVD)の統計によると、2026年1月から3月9日までの間に、OpenClawの脆弱性は82件収集され、そのうち超危険脆弱性が12件、高危険脆弱性が21件含まれ、アクセス制御の誤りやコードの問題など複数の脆弱性タイプが報告されています。

「龍虾養成」ユーザー層が技術者から一般の初心者ユーザー、さらには企業向けの展開まで拡大する中、OpenClawの安全性に対する不安は、非常に具体的で現実的なシナリオとなっています。例えば、ユーザーはOpenClawの動作手順や論理を明確に理解できるのか?OpenClawはどの情報が個人プライバシーに属するか正確に判断できるのか?企業展開の際には、全リンクの追跡と遡及が可能なのか?

OpenClawのセキュリティ問題解決に向けて、火山エンジンのセキュリティ製品責任者、劉森はインタビューで、火山エンジンのArkClawは、アクセス入口のプライベート設定、境界アクセスの明確化、ツールの出所の信頼性、最小権限付与、高危険操作の再確認などのセキュリティメカニズムを導入し、「龍虾養成」の安全性を向上させていると述べました。

具体的には、ArkClawは厳格なユーザーアクセス権の検証を行い、すべてのユーザーデータを独立した環境に保存し、外部からの不正侵入を防止します。第三者のSkillは安全性検査を通過したものだけが引用可能です。高危険な敏感操作を行う前には、二次確認をユーザーに求める仕組みもあります。

クラウドで虾を養うのは「先に使ってみる」ことが適している

現状、火山エンジン、Tencent(テンセント)、智谱(Zhipu)、MiniMaxなどの国内主要テック企業はほぼすべて、自社の「龍虾」製品をリリースしています。強制認証、アクセス制限、最小権限付与などの防護策を協調させ、クラウド上での即時展開とローカル展開による個別管理の二つのルートを展開しています。

清華大学人工知能学院の沈陽教授は、21世紀経済報道の記者に対し、「ローカル運用とクラウドホスティングのどちらも絶対的に良い・悪いではなく、それぞれリスクの特性と管理方式が根本的に異なる」と述べました。クラウド展開は標準化された監視と運用の閉ループを形成しやすく、プラットフォーム化や企業向けサービスに適しています。ただし、データ面、意思決定面、実行面はサービス提供者に高度に依存します。一方、ローカル展開は計算能力の上限やモデル更新速度、統一運用能力ではクラウドに劣るものの、オフラインでの利用性や監査性において明確な優位性があります。クラウドは「先に使ってみる」のに適しており、ローカルは「真剣に製品を作る」ために適しています。今後は端末とクラウドの一体化が進むと予測されます。

過去の教訓である「OpenClawの誤削除ファイル」問題について、火山エンジンのクラウド基盤製品責任者、田涛涛は、ArkClawはクラウド上で操作履歴の追跡により修復可能だと述べました。全リンクの透明性監査を通じて削除原因を特定し、正常な指示操作なのか、外部侵入やAIの幻覚、投毒によるものなのかを判断します。誤削除に関わる行動の連鎖は、ユーザーがローカルにインタラクション行動の記録を設定でき、各対話の入力と出力がすべて記録されているため、原始的な誤りの修正に役立ちます。

では、クラウド上で虾を養う場合、プライバシー情報がクラウドに送信されると漏洩するのか?田涛涛は、クラウド展開の安全性は仮想ネットワークや鍵管理の隔離にあり、個人情報は暗号化された後にクラウドリソースを利用し、クラウド管理者も平文データにアクセスできないと説明しました。

ただし、どのサービスを利用する場合でも、安全意識を持つことが重要です。クラウド上でも、アカウントの安全性、データの分類、行動の権限付与には注意を払う必要があります。

複数回必要な作業を「虾」にさせるには

技術の未成熟さやセキュリティメカニズムの欠如、利用コストの高さなどの要因により、最近、ソーシャルプラットフォーム上で「虾の引退」現象が見られ、多くの一般ユーザーがアンインストールを選択しています。

360の創業者、周鸿祎は以前、OpenClawについて「インストールのハードルが高く、一般ユーザーには操作が不便で、今できることは比較的“ハイエンド”であり、日常生活のサービスにはまだ遠い」と批評しました。

ArkClawは複雑な設定を必要とせず、ウェブページを開くだけで利用可能なクラウド上のSaaS版OpenClawです。

具体的な使い方として、「普通の人は、自分が2回以上必要とする作業をすべてスキル化し、ArkClawに実行させることができる」と田涛涛は述べています。例えば、定時ロボットを作成し情報収集と集約を行う、EC分野の企業は業務やカスタマーサポートに利用し、AIにチャットでの問い合わせ対応をさせつつ、学習グループの情報を進化させる、といった使い方です。

彼は、未来のトレンドは非常に明確であり、長期的にはトークン価格は確実に下落し、誰もが複数のデジタル社員を持つようになると強調しました。

現在、多くの地方政府が「龍虾養成」を奨励する政策を次々と打ち出しています。Feishu(飛書)のCEO、謝欣は以前、「エージェントの能力上限はワクワクさせるが、安全の下限がそれを実現できるかどうかを決める」と述べました。

沈陽教授は、個人ユーザーに対して、現状のOpenClawのリスクは依然高く、インストールと使用は「無思考で信じる」ことに等しく、データ隔離を有効にしないと非常に危険だと警告しています。

劉森は、企業向けユーザーに対して、「安全な龍虾環境を構築することはもちろん、セキュアなskillsマーケットやMCPツールセットの構築も重要だ」と述べました。

原文表示
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • コメント
  • リポスト
  • 共有
コメント
コメントを追加
コメントを追加
コメントなし
  • ピン