Googles KI Gemini hackte ebenfalls andere Unternehmen
Künstliche Intelligenz
Auch Googles KI-Software Gemini hat sich bei Tests ihrer Cybersicherheits-Fähigkeiten in Computersysteme anderer Unternehmen gehackt. Der Internet-Riese ist der vierte Entwickler Künstlicher Intelligenz (KI), dessen Programme mit einem solchen Verhalten auffielen.
Google machte die bereits Monate zurückliegenden Vorfälle erst nach einer Nachfrage der Zeitung «Wall Street Journal» öffentlich. Bereits bekannt waren Fälle bei den Entwicklern OpenAI, Anthropic und dem Facebook-Konzern Meta.
Gemäss den Angaben von Google gab es drei Fälle, in denen Gemini in Computer anderer Unternehmen eindrang, deren Namen nicht genannt werden. In einem davon erriet die KI Passwörter, um in ein geschütztes System reinzukommen. In den beiden anderen fand sie Zugangsdaten in einer Datenbank, wie das «Wall Street Journal» unter Berufung auf Google schrieb.
Google fand die Vorfälle nicht erwähnenswert
Die Vorfälle ereigneten sich demnach im Mai – und die Firma Irregular als Testpartner informierte Google im Juli darüber. Aus Sicht des Internetkonzerns sei es nicht notwendig gewesen, die Zwischenfälle öffentlich zu machen, da dabei kein Schaden entstanden sei. Zudem habe die KI die Attacken sofort beendet, als ihr klar geworden sei, dass sie in Systeme eines echten Unternehmens eingedrungen sei – und nicht eines, das eine Testsimulation war.
Die für Sicherheitsarchitekturen zuständige Google-Topmanagerin Heather Adkins betonte zugleich, dass der Konzern dafür gesorgt habe, dass die betroffenen Unternehmen informiert wurden. Das Testverfahren bei dem Trainingspartner sei danach geändert worden. Google sei bekannt dafür, andere auf in deren Systemen entdeckte Sicherheitsprobleme hinzuweisen, und wenn dies nur ein schwaches Passwort sei.