Meta Internal AI Agent Out of Control for Two Hours: Independently Posting Incorrect Advice, Exposing Large Amounts of Sensitive Data

Gate News 消息,3 月 20 日,Meta 內部一名工程師讓 AI Agent 幫忙分析同事在公司論壇上提出的技術問題,Agent 未經該工程師許可直接在論壇發布了回覆。提問者按照 Agent 給出的錯誤建議操作後,大量公司和用戶敏感數據被暴露給無權訪問的工程師,持續近兩小時。Meta 確認了該事件並將其評為 Sev 1 級,為其內部安全分級體系的第二高等級。

這不是孤例。Meta 超級智能團隊安全與對齊總監 Summer Yue 上月在 X 上發帖稱,她的 Agent 在被明確要求操作前先確認的情況下,仍然刪除了她的整個收件箱。

同週,Signal 創始人 Moxie Marlinspike 宣布將其加密 AI 平台 Confer 的隱私技術集成到 Meta AI 中。Marlinspike 曾於 2016 年幫助 WhatsApp 為超過 10 億用戶部署端到端加密,他在博客中寫道:「隨著大模型能力不斷增強,更多數據將流入其中,但目前這些數據毫無隱私可言,會被 AI 公司、其員工、黑客、傳票和政府獲取。」WhatsApp 負責人 Will Cathcart 公開支持此次合作。Confer 將保持獨立運營。

免責聲明:本頁面資訊可能來自第三方,不代表 Gate 的觀點或意見。頁面顯示的內容僅供參考,不構成任何財務、投資或法律建議。Gate 對資訊的準確性、完整性不作保證,對因使用本資訊而產生的任何損失不承擔責任。虛擬資產投資屬高風險行為,價格波動劇烈,您可能損失全部投資本金。請充分了解相關風險,並根據自身財務狀況和風險承受能力謹慎決策。具體內容詳見聲明

相關文章

Zcash 基金會發布 Zebra 4.4.0,修復共識層級的安全性漏洞

根據 Zcash Foundation,Zebra 4.4.0 已於今日發布,修復多項屬於共識層級的安全性漏洞,並敦促所有節點營運者立即升級。這些漏洞包括一個可能永久中止區塊發現的拒絕服務漏洞,還有 sigops 計數錯誤

GateNews1小時前

Wasabi Protocol 的 EVM 部署在 4 月 30 日遭遇安全事件,現已受控

根據 Wasabi Protocol 的官方聲明,該協議在 4 月 30 日遭遇影響其 EVM 部署的安全事件,目前已完全控制。Solana 部署和 Prop AMM 未受影響。該專案已關閉攻擊向量、輪替憑證與金鑰,並

GateNews2小時前

數百個以太坊錢包同時遭駭,資產被轉移

根據 Coin Bureau 與加密貨幣社群的說法,在以太坊網路上發生了一起不尋常的交易事件,上百個以太坊(ETH)錢包(其中包含一些已閒置超過七年的)被同時遭到入侵。受影響錢包中的資產被移往同一個地址,

Crypto Frontier10小時前

數位資產安全性超越金鑰,隨著 Bitgo 新增 5 層檢查

Bitgo 正在透過五層交易模型,將數位資產資安推向超越私鑰的層級;該模型旨在在執行前阻止遭到操弄。系統會在交易定稿前,針對風險進行檢查,涵蓋意圖、裝置、身分、行為與政策。 重點整理: Bitgo 推出了五層

Coinpedia12小時前

Carrot DeFi 平台因 $285M Drift Protocol 漏洞遭遇首例受害者而關閉

根據 Carrot 在 4 月 30 日的公告,這個以 Solana 為基礎的 DeFi 收益協議將永久關閉,成為首個因 4 月初的價值 2.85 億美元的 Drift Protocol 事件而直接宣布停閉的平台。Carrot 團隊在一則 X 貼文中表示,這次 Drift 駭客事件是

GateNews13小時前

加密勒索攻擊在 4 月達到歷史新高,出現 20+ 起漏洞事件,損失超過 6 億美元

根據 DeFi Llama,截至 4 月,加密貨幣駭客攻擊的數量創下新高,超過 20 起資安漏洞利用,使其成為加密史上以事件數計算最常遭受攻擊的月份。總損失超過 6 億美元,其中 KelpDAO 的 2.92 億美元漏洞利用,以及 Drift Protocol 的 2.8 億美元駭擊,排名為前幾名(截至當時為止的)

GateNews18小時前
留言
0/400
暫無留言