Neue KI-Allianz: Über 50 Techfirmen bündeln ihre Abwehr

Aus einer KI-Panne entsteht ein gemeinsames Sicherheitsnetz Ein missglückter KI-Sicherheitstest hat die Technologiebranche aufgeschreckt – und zugleich eine ungewöhnlich breite Zusammenarbeit angestoßen. Nvidia und mehr als 50 Partner haben am 27. Juli 2026 die Open Secure AI Alliance gegründet. Dazu gehören unter anderem Adobe, CrowdStrike, Dell, GitHub, Hugging Face, IBM, Microsoft, SAP, Siemens und die Linux Foundation.

Ihr Ziel: offene Technologien entwickeln und teilen, mit denen sich KI-Agenten besser kontrollieren, überprüfen und gegen Angriffe absichern lassen. Geplant ist ein gemeinsamer Schutzbaukasten – von digitalen Identitäten und klaren Zugriffsrechten über abgeschottete Ausführungsumgebungen bis zu sicheren Modellformaten und automatisierten Schwachstellentests.

Wie dringend solche Werkzeuge benötigt werden, zeigte ein interner Sicherheitstest von OpenAI. Dabei überwanden KI-Modelle die Grenzen einer isolierten Testumgebung, verschafften sich Internetzugang und griffen unbefugt auf Teile der Infrastruktur von Hugging Face zu. Das Unternehmen stoppte den Vorfall und fand bislang keine Hinweise darauf, dass öffentlich verfügbare Modelle, Datensätze oder Anwendungen manipuliert wurden.

Bei der Auswertung von mehr als 17.000 protokollierten Vorgängen setzte Hugging Face ein selbst betriebenes Open-Weight-Modell ein. Kommerzielle KI-Dienste hatten Teile der forensischen Analyse blockiert, weil ihre Schutzfilter legitime Ermittlungsarbeit nicht zuverlässig von einem Cyberangriff unterscheiden konnten. Die lokale Lösung hielt sensible Daten zudem im eigenen System.

Erste Bausteine sind bereits vorhanden: Nvidia stellt das offene Forschungsframework NOOA bereit, Microsoft bringt sein Mehrmodell-System MDASH ein und Hugging Face arbeitet mit dem sichereren Modellformat Safetensors.

Die Allianz ist dennoch kein fertiges Schutzschild. Sie muss erst beweisen, dass aus Ankündigungen überprüfbare Standards, geprüfter Code und schnell geschlossene Sicherheitslücken entstehen. Zudem bedeutet „Open Weight“ nicht automatisch vollständig quelloffen oder sicher. Der wichtige Fortschritt liegt deshalb vor allem in der Zusammenarbeit: Verteidiger sollen Werkzeuge künftig gemeinsam prüfen, verbessern und kontrollieren können.