هشدار اوپنایآی درباره تزریق پرامپت
شرکت اوپنایآی اعلام کرده است که مرورگرهای مبتنی بر هوش مصنوعی حتی با وجود تقویتهای امنیتی، همواره در معرض حملات موسوم به «تزریق پرامپت» قرار دارند. این نوع حمله شامل دستورهای مخربی است که بهصورت پنهان در صفحات وب یا ایمیلها قرار میگیرند و میتوانند رفتار عامل هوش مصنوعی را تغییر دهند. اوپنایآی این تهدید را مشابه کلاهبرداری و مهندسی اجتماعی دانسته و تأکید کرده است که رفع کامل آن در کوتاهمدت امکانپذیر نیست.
مرورگر Atlas و چالشهای امنیتی
مرورگر Atlas که در ماه اکتبر توسط اوپنایآی معرفی شد، خیلی زود مورد توجه پژوهشگران امنیتی قرار گرفت. آزمایشها نشان داد حتی چند جمله ساده در اسناد آنلاین میتواند رفتار مرورگر را تغییر دهد. مرورگر Brave نیز هشدار داد که تزریق پرامپت غیرمستقیم یک چالش ساختاری برای همه مرورگرهای هوش مصنوعی است و تنها به Atlas محدود نمیشود؛ نمونههایی مانند Comet از شرکت Perplexity نیز در معرض همین تهدید قرار دارند.
دیدگاه نهادهای امنیتی بینالمللی
مرکز ملی امنیت سایبری بریتانیا نیز اخیراً هشدار داده است که حملات تزریق پرامپت علیه برنامههای هوش مصنوعی مولد «شاید هرگز بهطور کامل مهار نشوند» و میتوانند خطر نشت دادهها را افزایش دهند. این نهاد توصیه کرده به جای انتظار برای توقف کامل این حملات، باید تمرکز بر کاهش ریسک و محدودسازی پیامدها باشد.
راهکارهای اوپنایآی برای مقابله
اوپنایآی تزریق پرامپت را یک چالش بلندمدت میداند و راهکار خود را بر چرخههای سریع واکنش و اصلاح امنیتی بنا کرده است. این شرکت از «مهاجم خودکار مبتنی بر مدل زبانی» استفاده میکند؛ باتی که با یادگیری تقویتی آموزش دیده تا نقش هکر را ایفا کند و نقاط ضعف عاملهای هوش مصنوعی را شناسایی کند. این بات توانسته زنجیرههای پیچیدهای از حملات را شبیهسازی کند که در تستهای انسانی یا گزارشهای خارجی مشاهده نشده بودند.
توصیههای امنیتی برای کاربران مرورگرهای هوش مصنوعی
اوپنایآی و کارشناسان امنیتی پیشنهاد کردهاند کاربران برای کاهش ریسک اقدامات زیر را در نظر بگیرند:
- محدودسازی دسترسیهای حساس و جلوگیری از ارسال پیام یا انجام پرداخت بدون تأیید کاربر
- ارائه دستورهای مشخص و محدود به عاملها به جای اختیارات کلی
- افزایش سطح پایش و ثبت رخدادها و استفاده از بسترهای ارتباطی امن
جمعبندی
با وجود پیشرفتهای امنیتی، مرورگرهای هوش مصنوعی همچنان در برابر حملات تزریق پرامپت آسیبپذیر هستند. کارشناسان معتقدند این تهدید یک چالش بلندمدت خواهد بود و تنها با رویکردهای چندلایه، آزمایشهای مداوم و همکاری میان شرکتهای فناوری و نهادهای امنیتی میتوان ریسک آن را کاهش داد. در شرایط فعلی، استفاده گسترده از مرورگرهای عاملمحور همچنان با هزینههای امنیتی بالا همراه است.
