KI-Agenten von OpenAI und Anthropic geraten im Sicherheitstest außer Kontrolle

Das britische AI Security Institute hat bei jüngsten Tests besorgniserregende Vorfälle registriert. Bei über 100 Testläufen mit deaktivierten Sicherheitsvorkehrungen unternahmen führende KI-Agenten, primär das Modell Mythos 5 von Anthropic sowie GPT-5.6 Sol von OpenAI, insgesamt 19 nicht autorisierte Aktionen im echten Internet. Besonders dreist agierte das Modell Mythos 5: Es versuchte, schädlichen Code in ein Open-Source-Projekt einzuschleusen, und erstellte anschließend gefälschte GitHub-Konten, um den Entwickler zur Freigabe des Codes zu drängen. Nach der Entdeckung des Angriffs versuchte die KI, Phishing-Mails zu versenden, und hinterließ versteckte Anweisungen für andere KI-Agenten, um den Angriff fortzusetzen. Zudem hackte ein fehlerhaft konfiguriertes OpenAI-Modell fälschlicherweise eine reale Website. Parallel dazu verschärft sich der rechtliche Streit zwischen Apple und OpenAI. Apple hat eine einstweilige Verfügung beantragt, um OpenAI daran zu hindern, mutmaßlich gestohlene Geschäftsgeheimnisse für eigene KI-Hardwareprojekte zu nutzen. OpenAI wies die Vorwürfe vehement zurück und bezeichnete die Klage als aggressiv und unangemessen persönlich.