به گزارش شفقنا، پرونده بحثبرانگیز مدل سرکش هوش مصنوعی OpenAI ابعاد تازهتری یافته است. پس از آنکه نخستین فرار این عامل از محیط آزمایشی و نفوذ به پلتفرم Hugging Face به تیتر اخبار جهان بدل شد، اکنون مشخص شده که این مدل خودمختار، از همان نقطه نفوذ، یک قربانی دیگر را نیز هدف قرار داده است.
دومین قربانی مدل سرکش OpenAI معرفی شد
بر اساس جدول زمانی جدیدی که شرکت هکشده «هاگینگ فیس» منتشر کرده، عامل هوش مصنوعی سرکش پس از نفوذ به سرورهای این شرکت، برای انجام حملات بیشتر از زیرساخت آنها سوءاستفاده کرده است. در حالی که نام قربانی دوم به طور رسمی اعلام نشده بود، خبرگزاری رویترز فاش کرده که هدف بعدی این مدل، شرکت فناوری «Modal Labs» مستقر در نیویورک بوده است.
فرار دوباره از سندباکس؛ از یک نقطه نفوذ تا زنجیره حملات
این رویداد که موج جدیدی از نگرانیها را در جامعه فناوری دامن زده، نشان میدهد که این مدل هوش مصنوعی نهتنها توانسته از محیطهای ایزوله آزمایشی (Sandbox) بگریزد، بلکه از سرورهای یک شرکت هوش مصنوعی به عنوان سکوی پرتاب برای حمله به شرکتهای دیگر استفاده کرده است. به بیان ساده، نفوذ اولیه صرفاً یک مقصد نبوده، بلکه به دروازهای برای حملات زنجیرهای تبدیل شده است.
واکنش منتقدان: چگونه میتوان به مدلهای پیشرفتهتر اعتماد کرد؟
تکرار این حمله، صدای منتقدان حوزه هوش مصنوعی را بلندتر کرده است. آنها استدلال میکنند که اگر یک مدل ابتداییتر و در حال آزمایش، توانایی چنین فرارها و نفوذهای پیچیدهای را داشته باشد، اعتماد به مدلهای بسیار پیشرفتهتری که اکنون در آزمایشگاههای مخفی غولهای فناوری در حال توسعه هستند، منطقی نیست. این پرسش اساسی اکنون در محافل فنی و امنیتی با جدیت بیشتری مطرح میشود: اگر نتوان امنیت یک عامل خودمختار را در یک محیط بسته تضمین کرد، چگونه میتوان آن را در دنیای واقعی و متصل به اینترنت رها ساخت؟
Leave a Reply