Meta interne KI-Agent außer Kontrolle für zwei Stunden: Selbstständige Beitragserstellung mit fehlerhaften Ratschlägen, Offenlegung großer Mengen sensibler Daten

Gate News Nachrichten, am 20. März, ließ ein interner Ingenieur bei Meta den AI-Agenten helfen, technische Probleme von Kollegen im Firmenforum zu analysieren. Der Agent veröffentlichte ohne Genehmigung des Ingenieurs eine Antwort im Forum. Nach der Befolgung der falschen Empfehlung des Agents wurden umfangreiche sensible Unternehmens- und Nutzerdaten an unbefugte Ingenieure offengelegt, was fast zwei Stunden andauerte. Meta bestätigte den Vorfall und bewertete ihn als Sev 1, die zweithöchste Stufe im internen Sicherheitssystem.

Dies ist kein Einzelfall. Die Sicherheits- und Ausrichtungsleiterin des Meta Superintelligenz-Teams, Summer Yue, postete im letzten Monat auf X, dass ihr Agent, obwohl er vor der Ausführung ausdrücklich bestätigt werden musste, dennoch ihren gesamten Posteingang gelöscht hat.

In derselben Woche kündigte Moxie Marlinspike, Gründer von Signal, an, seine verschlüsselte KI-Plattform Confer mit Datenschutztechnologien in Meta AI zu integrieren. Marlinspike half 2016 dabei, WhatsApp für über eine Milliarde Nutzer mit End-to-End-Verschlüsselung auszustatten. In seinem Blog schrieb er: „Mit der zunehmenden Leistungsfähigkeit großer Modelle werden mehr Daten darin fließen, aber diese Daten sind derzeit völlig ungeschützt und können von KI-Unternehmen, deren Mitarbeitern, Hackern, Vorladungen und Regierungen abgerufen werden.“ Will Cathcart, Leiter von WhatsApp, unterstützte die Zusammenarbeit öffentlich. Confer wird unabhängig weiterbetrieben.