ترمز اضطراری OpenAI برای مدل Astra به دلیل هشدارهای امنیتی سایبری

شرکت OpenAI برای نخستین بار یکی از مدل‌های هوش مصنوعی در حال توسعه خود به نام Astra (که احتمال می‌رود همان GPT-6 باشد) را به عنوان یک تهدید سایبری بالقوه «بحرانی» طبقه‌بندی کرد. این تصمیم پس از آن اتخاذ شد که مدل مذکور با حل کردن ده مسئله بسیار پیچیده و قدیمی در حوزه ریاضی و علوم رایانه، جهش چشمگیری در توانایی‌های خود نشان داد. طبق تعریف چارچوب آمادگی این شرکت، رده «بحرانی» به مدل‌هایی اطلاق می‌شود که قادرند بدون دخالت انسان، آسیب‌پذیری‌های امنیتی روز صفر را کشف یا حملات سایبری پیچیده را هدایت کنند. به دنبال این ارزیابی، OpenAI فرآیندهای داخلی خود را متوقف کرده و بررسی‌های امنیتی عمیق‌تری را با همکاری نهادهای دولتی و اشخاص ثالث آغاز کرده است. سام آلتمن، مدیرعامل این شرکت، اشاره کرده است که عرضه عمومی این مدل احتمالاً به زمان بیشتری نیاز خواهد داشت. این اقدامات امنیتی در حالی صورت می‌گیرد که دنیای فناوری اخیراً شاهد چالش‌های امنیتی متعددی در پلتفرم‌های بزرگی چون Hugging Face بوده است، هرچند OpenAI ارتباط این مدل با حملات اخیر را رد کرده است. هم‌زمان با این تحولات، گزارش‌های جدید نشان می‌دهند که توانایی مدل‌های متن‌باز به شکل بی‌سابقه‌ای به غول‌های تجاری مانند ChatGPT نزدیک شده و شکاف عملکردی آن‌ها به حدود ۳ درصد کاهش یافته است. این سرعت بالای رشد فناوری هوش مصنوعی، نگرانی‌ها را درباره کنترل‌پذیری مدل‌های فوق‌پیشرفته و پیچیدگی مهار آن‌ها دوچندان کرده است.