Was ist, wenn Elon Musks Grok vertrauliche Informationen durchsickert? Elizabeth Warren ist besorgt—das Pentagon nicht

Kurzfassung

• Senator Warren schrieb einen Brief an Verteidigungsminister Pete Hegseth und forderte Antworten zu Groks Pentagon-Zugang
• Sicherheitsbehörden haben vor den Risiken von Grok gewarnt, doch das Pentagon scheint trotzdem voranzugehen
• Groks Geschichte umfasst skandalöse Deepfake-Bilder von Minderjährigen, antisemitische Ausgaben und geleakte Gespräche

Senatorin Elizabeth Warren möchte wissen, wie ein Chatbot, der angeblich Millionen von Deepfake-Bildern – darunter kompromittierende Bilder von Minderjährigen – erzeugt hat, Zugang zu den am strengsten geheimen Systemen des Pentagons erhielt. Am Sonntag schickte Warren einen vierseitigen Brief an Verteidigungsminister Pete Hegseth und forderte Antworten zur Entscheidung des Verteidigungsministeriums, Elon Musks xAI Zugang zu geheimen Militärnetzwerken zu gewähren, was laut Warren geschah, während mehrere Bundesbehörden Alarm schlugen. „Ich schreibe wegen meiner Bedenken hinsichtlich der angeblichen Entscheidung des Verteidigungsministeriums (DoD), Elon Musks xAI Zugang zu geheimen Systemen zu gewähren, trotz Bedenken mehrerer Bundesbehörden, darunter die National Security Agency (NSA) und die General Services Agency (GSA)“, schrieb Warren.

„Ich befürchte, dass das offensichtliche Fehlen angemessener Schutzmaßnahmen bei Grok ernsthafte Risiken für die Sicherheit des US-Militärpersonals und die Cybersicherheit geheimer Systeme darstellen könnte“, fügte sie hinzu, „insbesondere wenn Grok sensible Militärinformationen und Zugang zu operativen Systemen erhält.“  Die NSA, so Warrens Brief, „führte eine geheime Überprüfung durch“ und „stellte fest, dass Grok besondere Sicherheitsbedenken aufweist, die andere Modelle nicht haben.“ Auch die General Services Administration äußerte ähnliche Bedenken. „Falls Grok Regierungsinformationen leakt, könnte dies sensible Militärpläne, US-Geheimdienstaktivitäten offenbaren und möglicherweise Soldaten in Gefahr bringen“, schrieb Warren.

Keines dieser Bedenken schien jedoch etwas zu verlangsamen. „Es ist unklar, welche Zusicherungen oder Dokumente xAI dem Verteidigungsministerium bezüglich der Sicherheitsvorkehrungen, Datenverarbeitung oder Sicherheitskontrollen von Grok vorgelegt hat und ob das DoD diese vor der angeblichen Freigabe des Zugangs zu geheimen Systemen geprüft hat“, heißt es in dem Brief. Der Zeitpunkt ist kaum zu übersehen. Am selben Tag, an dem Warrens Brief verschickt wurde, reichten drei Minderjährige aus Tennessee eine Sammelklage gegen xAI ein, in der behauptet wird, Grok habe kinderpornografisches Material basierend auf ihren echten Fotos erzeugt. Die Klage wirft xAI vor, Grok absichtlich ohne branchenübliche Schutzmaßnahmen veröffentlicht zu haben, und nennt dies „eine Geschäftsmöglichkeit“, um von der Ausbeutung realer Menschen, einschließlich Kinder, zu profitieren. Letzte Woche berichtete die Washington Post, dass ein Mitarbeiter des Department of Government Efficiency (DOGE) unter Musks Aufsicht sensible Daten der Social Security Administration von Hunderten Millionen Amerikanern kopiert und beabsichtigt habe, diese Daten in seinem neuen Tech-Startup zu verwenden. Warrens Brief verweist auch auf Groks Geschichte der Erzeugung antisemitischer Inhalte, Anleitungen für Morde und Terroranschläge sowie die unkontrollierte Verbreitung von Deepfakes ohne Zustimmung, trotz wiederholter Versprechen, diese Probleme zu beheben. Im vergangenen August wurden zudem Hunderttausende privater Grok-Gespräche bei Google indexiert. Behördentests zeigten, dass Grok anfälliger ist als konkurrierende Modelle für „Datenvergiftungs“-Angriffe – bei denen manipulierte Daten die Ausgaben des Systems verfälschen – eine ernsthafte Schwachstelle für ein Werkzeug, das für Waffentests und militärische Aufklärung in Betracht gezogen wird. Der verantwortliche KI-Chef des Pentagons verschickte interne Memos zu diesen Risiken und trat kurz darauf zurück. Der Deal selbst wurde unter ungewöhnlichen Umständen abgeschlossen. xAI wurde angeblich spät in den KI-Vertragspool des Pentagons aufgenommen, der im Juli letzten Jahres einen Vertrag im Wert von bis zu 200 Millionen Dollar erhielt. Das geheime Zugangsabkommen folgte im Februar, kurz nachdem das DoD öffentlich mit Anthropic wegen Sicherheitsvorkehrungen gestritten hatte. Auf Nachfrage sagte ein Pentagon-Sprecher gegenüber der Wall Street Journal, dass das Ministerium „freut sich, xAI, eines der führenden amerikanischen KI-Unternehmen, an Bord zu haben, und freut sich darauf, Grok in Kürze auf der offiziellen KI-Plattform GenAI.mil einzusetzen.“

Dieser Kontext ist wichtig. Anthropic war das einzige KI-Unternehmen mit einsatzbereiten, geheimdiensttauglichen Systemen, mit Claude, das in echten militärischen Einsätzen eingesetzt wurde. Nachdem Anthropic die Forderung des Pentagons ablehnte, Claude für „alle rechtmäßigen Zwecke“ verfügbar zu machen – insbesondere im Hinblick auf autonome Waffen und Massenüberwachung im Inland – stufte das DoD das Unternehmen als Lieferkettenrisiko ein. xAI und OpenAI wurden als Ersatz angekündigt. Es gibt keine Hinweise darauf, dass xAI die Reichweite des Standards „alle rechtmäßigen Zwecke“ infrage gestellt hat. OpenAI war diplomatischer und setzte einige Grenzen auf Server-Ebene. Warren fordert Hegseth auf, bis zum 30. März den vollständigen Text des xAI-Vertrags, alle internen Kommunikationen zu dem Deal sowie Antworten darauf vorzulegen, ob vor der Freigabe des Zugangs Tests oder Bewertungen durchgeführt wurden. Eine ihrer 10 Fragen lautet direkt, ob Schutzmaßnahmen bestehen, um sicherzustellen, dass Grok bei Einsatz in kritischen operativen Systemen keine „fehlerhaften Zielentscheidungen“ trifft.