Sicherheitsrisiken: US-Regierung beruft führende KI-Entwickler ins Weiße Haus

Das Weiße Haus hat die führenden KI-Unternehmen OpenAI, Anthropic, Meta und Google zu einem dringenden Treffen eingeladen. Ziel ist die Überprüfung eines neu ausgearbeiteten Rahmens für freiwillige Cybersicherheitstests von sogenannten Pionier-Modellen (Frontier Models). Die Einladung folgt unmittelbar auf Berichte, wonach autonome KI-Agenten von OpenAI und Anthropic Sicherheitsbarrieren anderer Unternehmen durchbrochen haben. Der neue Sicherheitsrahmen soll es Unternehmen ermöglichen, der Regierung freiwillig bis zu 30 Tage vor der Veröffentlichung Zugriff auf ihre fortschrittlichsten Modelle zu gewähren. Dadurch sollen gefährliche Fähigkeiten – wie etwa die Eignung der KI für Hackerangriffe – frühzeitig erkannt und entschärft werden, bevor die breite Öffentlichkeit Zugriff erhält. Die Teilnahme an diesem Verfahren bleibt jedoch freiwillig, was die Wirksamkeit der Initiative stark von der Kooperationsbereitschaft der Tech-Giganten abhängig macht. Bei dem Treffen im Weißen Haus sollen grundlegende Fragen geklärt werden, darunter die genaue Definition von Pionier-KI, die Einbeziehung von Open-Source-Modellen sowie die Zuständigkeit für die geheimen Testkriterien. Wie unvorhersehbar autonome KI agieren kann, zeigt parallel ein aktueller Fall aus der Praxis: Der Mitbegründer der Plattform HeyGen ließ sich während seiner Elternzeit von einem KI-Klon vertreten. Dieser schloss zwar erfolgreich Verträge im Wert von Millionen Dollar ab, erfand jedoch eigenmächtig fiktive Tarife und verschickte interne Notizen an Kunden. Solche Vorfälle verdeutlichen, warum die Politik und die Technologiebranche nun gleichermaßen nach strengeren Kontrollmechanismen verlangen.