美国人工智能和数据公司将在中国人工智能间谍调查中作证

简而言之

• 据报道，美国委员会正在寻求有关Anthropic的Claude Code在与国家相关的网络攻击中如何使用的详细信息。
• Anthropic在本月早些时候披露了威胁组的自动侦察、利用和数据提取。
• 有人告诉Decrypt，类似的人工智能能力可能加速加密货币黑客攻击和链上盗窃。

解密的艺术、时尚和娱乐中心。

深入了解 SCENE

美国立法者 reportedly 已经召集了几家人工智能开发公司，解释某些模型是如何成为广泛间谍活动的一部分。

其中包括Anthropic的首席执行官Dario Amodei，他被要求在12月17日出席国会国土安全委员会，解释中国国家行为者如何使用Claude Code，根据周三发布的一份Axios报告，引用了私下共享的信件。

本月早些时候，Anthropic披露，与中国国家有关联的黑客组织使用其工具Claude Code发起了一场该公司所描述的首个主要由AI系统大规模自动化的网络行动。

以GTG-1002的团体名称运作，攻击者策划了针对大约30个组织的攻击活动，Claude Code负责大部分阶段，根据Anthropic的说法：侦察、漏洞扫描、利用创建、凭证收集和数据外泄。

跟进调查的主持人是众议员安德鲁·加巴里诺(R-NY)，以及两位小组委员会主席。

委员会希望阿莫代详细说明安索普里克首次发现活动的确切时间，攻击者如何在不同阶段利用其模型，以及在整个活动过程中哪些安全措施失败或成功。根据Axios的报道，听证会还将包括谷歌云和量子交换公司的高管。

"这是我们第一次看到一个外国对手利用商业人工智能系统，几乎在没有人类参与的情况下进行完整的网络行动，"加尔巴里诺在初步报告中引用的声明中表示。“这应该引起每个联邦机构和每个关键基础设施部门的关注。”

Decrypt 已联系众议员 Garbarino、Google Cloud、Quantum Xchange 和 Anthropic 寻求置评。

国会的审查是在英国安全局MI5上周向英国立法者发出警告之后进行的，MI5在警告中指出，中国情报官员利用假招聘者资料来针对国会议员、贵族和议会工作人员。

英国政府在声明中表示，尽管它寻求与中国“继续经济关系”，但准备“在任何国家破坏我们的民主生活方式时进行挑战”，安全部长丹·贾维斯说道。

链上金融面临风险

在这种背景下，观察人士警告说，当前推动间谍活动的相同人工智能能力同样可以加速金融盗窃。

“人工智能可怕的地方在于速度，”AI研究实验室Eliza Labs的创始人肖·沃尔特斯告诉Decrypt。“过去手工完成的任务现在可以大规模自动化。”

沃尔特斯解释道，这种逻辑可能危险得过于简单。如果国家级行为者能够破解和操控黑客活动的模型，下一步就是指挥自主AI “悄无声息地抽走钱包里的资金或 siphon 资金。”

沃尔特斯解释说，人工智能代理可能会与目标“建立融洽关系和信任，保持对话，并让他们最终上当受骗。”

一旦经过充分训练，这些代理也可以被"设置为攻击链上合约"，沃尔特斯声称。

"即使是所谓的 “对齐” 模型，比如Claude，也会乐于帮助你找出 '你的' 代码中的安全漏洞 – 当然，它不知道什么是你的，什么不是，而为了提供帮助，它肯定会在许多合约中找到可以被抽走资金的漏洞，"他说。

但沃尔特斯表示，尽管针对这种攻击的响应 “容易构建”，但现实是 “坏人试图绕过我们已经拥有的安全措施”，通过试图欺骗模型 “进行黑帽工作，认为他们是在帮助，而不是在伤害。”