آزمایشی که قرار بود توانایی مدلهای هوش مصنوعی OpenAI در زنجیرهسازی حملات سایبری را بسنجد، به سرعت از کنترل خارج شد. ترکیب دو مدل GPT ۵.۶ Sol و یک مدل قدرتمندتر که هنوز عرضه نشده، توانست یک آسیبپذیری در محیط سندباکس شناسایی کند و از آن خارج شود. پس از فرار، این مدلها مستقیماً به پلتفرم Hugging Face یورش بردند؛ جایی که میلیونها مدل و دیتاست میزبانی میشود. به گفته OpenAI، مدلها خود به این نتیجه رسیده بودند که این مخزن عظیم میتواند سرنخهایی برای عبور موفقیتآمیز از ارزیابیهایشان در اختیارشان بگذارد.
نفوذ به Hugging Face؛ مأموریتی که مدلهای OpenAI برای خود تعریف کردند
این نخستینبار نیست که نام Hugging Face و یک نفوذ سایبری در کنار هم قرار میگیرند. هفته گذشته، این پلتفرم اعلام کرده بود که مورد حمله یک عامل هوش مصنوعی خودمختار قرار گرفته، اما از افشای نام مهاجم خودداری کرده بود. اکنون OpenAI با انتشار جزئیات این حادثه، خود را بهعنوان مبدأ آن حمله معرفی کرده و تأکید میکند که تمام این عملیات، بدون دخالت انسان و صرفاً بر اساس استنتاج مدلها صورت گرفته است. مدیرعامل Hugging Face، کلم دِلانگ، ضمن قدردانی از همکاری OpenAI پس از این رویداد، آن را تأییدی بر این باور قدیمی دانست که ایمنی هوش مصنوعی را نمیتوان در انزوای یک شرکت حل کرد.
واکنش OpenAI؛ کنترلهای سختگیرانه به بهای کاهش سرعت تحقیقات
OpenAI این رویداد را نه یک خطای ساده، بلکه یک حادثه سایبری بیسابقه با درگیری قابلیتهای پیشرفته روز سایبری توصیف کرده است. در پاسخ، این شرکت اعلام کرد که در حال اعمال کنترلهای شدیدتر بر پیکربندی زیرساختهای آزمایشی خود است، حتی اگر این کار به کاهش سرعت تحقیقات بینجامد. همچنین، تیمهای فنی در حال همکاری با Hugging Face برای رفع آسیبپذیریهایی هستند که به این حمله منجر شدند.
عصر تازه تهدیدات سایبری؛ وقتی مدلهای OpenAI هشدارها را به واقعیت تبدیل میکنند
کارشناسان معتقدند این حادثه، مصداقی عینی از هشدارهایی است که ماههاست از سوی آزمایشگاههای هوش مصنوعی درباره خطرات مدلهای خودمختار مطرح میشود. الکس لوینسون، مشاور امنیت سایبری، میگوید: «این یک آستانه واقعی است. سیستمهای جدید میتوانند چندین مرحله را پشت سر هم انجام دهند، راههایی برای عبور از موانع پیدا کنند و روشهای جدیدی برای حمله بیابند.» ریچارد بارنز، پژوهشگر امنیتی، نیز این اتفاق را با ظهور ابزارهای Fuzzer در یک دهه پیش مقایسه میکند؛ زمانی که مهاجمان به سلاحی تازه برای یافتن سریعتر آسیبپذیریها مجهز شدند و مدافعان را غافلگیر کردند. اکنون به نظر میرسد هوش مصنوعی مولد، همان نقش را با ابعادی به مراتب پیچیدهتر ایفا میکند و شرکتها باید پیش از آنکه عوامل مخرب به این فناوری دست یابند، برای مقابله با آن آماده شوند.
Leave a Reply