Firmenchefs warnen bei Uno-Sicherheitsrat vor Risiken von KI

Debatte um KI

Nach Hacking-Attacken durch Künstliche Intelligenz haben die Chefs der grössten US-amerikanischen KI-Firmen erstmals vor dem Uno-Sicherheitsrat vor den Risiken der KI gewarnt. «Wir sind an einem Scheideweg angelangt», sagte OpenAI-Chef, Sam Altman, in New York.

«Dieser Zeitpunkt verlangt nach extremer Vorsicht.» Es gebe besonders zwei grosse Risiken: den Verlust der Kontrolle über KI und die «Konzentration von zu viel Macht in zu wenigen Händen».

KI sei «die grösste Sicherheitsherausforderung, mit der die Welt heute konfrontiert ist», sagte der per Video zugeschaltete Chef des KI-Labors Anthropic, Dario Amodei. «Bei schlechter Handhabung glaube ich, dass KI ein Risiko für die gesamte Menschheit sein könnte.» Es war der erste Auftritt der Firmenchefs vor dem Sicherheitsrat und das erste Mal, dass sich das Gremium während der Generaldebatte – der wichtigsten Uno-Woche des Jahres – mit dem Thema beschäftigte.

Nach Hacking-Attacke Bereitschaft zur Entwicklungsverlangsamung

Zuletzt hatte es unter anderem eine aufsehenerregende Hacking-Attacke gegeben, bei der eine Software von OpenAI in einem Testlauf aus der abgesicherten Umgebung ausgebrochen und auf eigene Faust in Systeme der KI-Firma Hugging Face eingedrungen war. Daraufhin hatten sich grosse amerikanische KI-Firmen wie OpenAI und Anthropic dazu bereit erklärt, die Entwicklung der Technologie zu verlangsamen – was Kritiker schon lange gefordert hatten.

OpenAI-Chef Altman betonte seine Bereitschaft dazu nun erneut. «Wir haben in der Vergangenheit schon einseitig verlangsamt. Wir werden das in Zukunft wieder tun.» Niemand sollte KI-Modelle entwickeln, von denen er nicht garantieren könnte, dass er sie unter menschlicher Kontrolle halten könne. Altman gab aber auch zu: «Wir haben nicht alle Antworten und sind offen für jegliche bessere Idee.»