OpenAI stoppt Astra-Modell wegen kritischer Cybersicherheitsrisiken

Das KI-Unternehmen OpenAI hat die Notbremse bei der Entwicklung seines neuen Modells Astra (mutmaßlich GPT-6) gezogen. Zum ersten Mal in der Unternehmensgeschichte wurde ein Modell als potenziell „kritisches“ Cybersicherheitsrisiko eingestuft. Gemäß den internen Sicherheitsrichtlinien von OpenAI bedeutet dies, dass die KI in der Lage sein könnte, Zero-Day-Exploits selbstständig zu finden oder autonome Cyberangriffe ohne menschliche Aufsicht durchzuführen. Die Einstufung erfolgte kurz nachdem Astra in der Fachwelt für Aufsehen gesorgt hatte, indem das Modell zehn extrem komplexe, ungelöste Probleme der Mathematik und Informatik knackte. Als Reaktion auf die rasant gestiegenen Fähigkeiten wurden interne Arbeiten vorübergehend pausiert und tiefgreifende Sicherheitsprüfungen in Zusammenarbeit mit Regierungsbehörden eingeleitet. CEO Sam Altman deutete an, dass eine Veröffentlichung nun deutlich mehr Zeit in Anspruch nehmen könnte. Diese Entwicklungen verdeutlichen, dass die künstliche Intelligenz eine neue Phase beispielloser Leistungsfähigkeit erreicht. Gleichzeitig zeigt ein aktueller Branchenbericht von Mozilla, dass Open-Source-Modelle den Leistungsabstand zu kommerziellen Systemen wie ChatGPT auf nur noch 3 % verkürzt haben, was die Debatte um die Kontrolle und Sicherheit von KI-Systemen weiter verschärft.