KI-Modell findet seit Jahren schlummernde Software-Schwachstellen
Künstliche Intelligenz
Das neue KI-Modell des OpenAI-Rivalen Anthropic hat unter anderem eine 27 Jahre alte Sicherheitslücke in einem viel genutzten Betriebssystem gefunden. Jetzt wollen auch andere Unternehmen davon profitieren.
Das neue KI-Modell ist so gut darin, bisher unentdeckte Software-Schwachstellen zu finden, dass es in den falschen Händen zu einer verheerenden Cyberwaffe werden könnte. Deshalb macht Anthropic es nicht öffentlich, sondern lässt Unternehmen wie Apple, Amazon und Microsoft damit Sicherheitslücken in deren Programmen stopfen.
Das KI-Modell Claude Mythos Preview fand unter anderem eine 27 Jahre alte Schwachstelle im als besonders sicher geltenden Betriebssystem OpenBSD, wie Anthropic mitteilte. Insgesamt habe man mit Mythos bereits «tausende» schwerwiegende Schwachstellen entdeckt – darunter in jedem breit genutzten Betriebssystem und Webbrowser. In der Videosoftware FFmpeg spürte das Modell eine seit 16 Jahren schlummernde Lücke auf.
Besorgniserregende Fähigkeiten
Mythos Preview sei auch in der Lage gewesen, binnen weniger Stunden Programme zum Ausnutzen dieser Schwachstellen zu entwickeln – für die Experten nach eigenem bekunden mehrere Wochen gebraucht hätten.
Einer frühen Version der Software wurde in einem Versuch die Aufgabe gestellt, aus einer abgeschirmten Computer-Umgebung auszubrechen und das dem Tester zu melden. Die Software umging laut Anthropic die Sicherheitsvorkehrungen, verschaffte sich selbst weitreichenderen Internet-Zugang und schickte dem Mitarbeiter eine für ihn überraschende E-Mail, während er mit einem Sandwich im Park sass.
Mythos nicht öffentlich verfügbar
Die Firma habe das Modell nicht speziell darauf trainiert, das alles zu können, hiess es weiter. Mit dem schnellen Fortschritt bei Künstlicher Intelligenz sei davon auszugehen, dass solche Fähigkeiten recht bald auch Online-Angreifern zur Verfügung stehen könnten, warnte Anthropic.