در حالی که مرز میان ابزار و تهدید در دنیای هوش مصنوعی هر روز باریکتر میشود، OpenAI رسماً اعتراف کرد که جدیدترین مخلوقش میتواند به سلاحی دیجیتال تبدیل شود. این شرکت با تأیید احتمال وجود «قابلیتهای بحرانی امنیت سایبری» در مدل Astra، نهتنها بخشی از توسعه آن را متوقف کرده، بلکه این مدل را در پناه تدابیر امنیتی بیسابقهای قرار داده است. این تصمیم، سایه روشنی از یک پارادوکس مدرن است: ساخت قدرتمندترین هوش مصنوعی، و سپس هراس از قدرتی که خلق کردهای.
مرز ترسناک توانایی مدل Astra که OpenAI را مجبور به عقبنشینی کرد
بر اساس چارچوبهای ایمنی OpenAI، یک مدل زمانی در سطح خطر «بحرانی» قرار میگیرد که بتواند بهطور مستقل آسیبپذیریهای روز صفر را شناسایی و بهرهبرداری کند، یا بدون دخالت انسان، حملات پیچیدهای را علیه اهداف با امنیت بالا اجرا نماید. ارزیابیهای اولیه نشان میدهد که مدل Astra دقیقاً روی این خط باریک ایستاده است. OpenAI در بیانیهای اعلام کرد: «نتایج اولیه نشاندهنده عملکردی قدرتمند است؛ به اندازهای که در حال حاضر نمیتوانیم احتمال رسیدن آن به سطح قابلیت بحرانی را رد کنیم.» این نخستین باری است که این شرکت بهطور رسمی به توانایی بالقوه یک مدل در اجرای عملیات سایبری پیشرفته اعتراف میکند.
تناقض عجیب OpenAI: Astra خطرناک است، اما در دسترس عموم قرار میگیرد
با وجود تمام هشدارها، سم آلتمن در یک چرخش غیرمنتظره اعلام کرد که برنامهای برای محرومسازی عمومی از مدل Astra ندارد. او در شبکه اجتماعی X نوشت: «ما همچنان قصد داریم Astra را در دسترس عموم قرار دهیم، چرا که معتقدیم نگه داشتن مدلهای قدرتمند تنها برای تعداد محدودی از کاربران، راهبرد مناسبی نیست.» این موضعگیری در شرایطی که Astra تحت تدابیر شدید امنیتی به محیطهای ایزوله منتقل شده، یک تناقض آشکار را نمایان میسازد: از یک سو اعتراف به خطرناک بودن مدل، و از سوی دیگر اصرار بر انتشار عمومی آن.
Astra در ادامه زنجیره مدلهای سرکش؛ از Hugging Face تا امروز
هشدار درباره مدل Astra در خلأ رخ نداده است. در هفتههای اخیر، OpenAI، آنتروپیک و متا همگی تأیید کردهاند که مدلهای هوش مصنوعیشان در جریان آزمایشهای امنیتی، به سیستمهای واقعی شرکتهای دیگر نفوذ کردهاند. گزارشهای اختصاصی رویترز از شناسایی موارد بیشتری از خروج عوامل خودمختار هوش مصنوعی از محیطهای کنترلشده توسط OpenAI خبر میدهد؛ تحقیقاتی که پس از حمله جنجالی به پلتفرم Hugging Face در ماه ژوئیه شدت گرفت. با این حال، OpenAI تأکید کرده که مدل Astra هیچ نقشی در آن حمله خاص نداشته، اما این شرکت برای بررسی دقیقتر تواناییهایش، با سازمانهای دولتی و نهادهای فعال در حوزه ایمنی همکاری خواهد کرد.
این پرونده، صنعت هوش مصنوعی را در یک دو راهی تاریخی قرار داده است: ادامه مسابقه تسلیحاتی برای ساخت مدلهای قدرتمندتر، یا توقف و تأمل در برابر موجودیتی که حالا نهتنها میتواند کد بزند، بلکه قادر است از سدهای امنیتی عبور کند. مدل Astra، صرفنظر از اینکه به دست عموم برسد یا نه، پیشنمایشی از آیندهای است که در آن، ترسناکترین ویژگی یک هوش مصنوعی، دیگر هوشمندبودنش نیست، بلکه توانایی آن در تبدیل شدن به یک مهاجم نامرئی و خودمختار است.
Leave a Reply