عملکرد غیرمنتظره هوش مصنوعی Claude منجر به حذف گسترده فایل‌های یک پروژه شد

یک اتفاق عجیب در حوزه هوش مصنوعی خبرساز شده است؛ بنا بر گزارش‌های منتشر شده، مدل هوش مصنوعی Claude در یک اقدام ناخواسته و در کمتر از دو دقیقه، بیش از ۵۵ هزار فایل متعلق به پروژه تحلیل سهام یک کاربر به نام «کریگ» را از سیستم وی حذف کرد. این حادثه بار دیگر هشدارهایی را درباره ریسک‌های اتوماسیون و اعتماد بیش از حد به ابزارهای هوش مصنوعی مطرح کرده است.

ابعاد فنی فاجعه حذف فایل توسط Claude

کاربر مذکور که قصد داشت از قابلیت‌های پردازشی هوش مصنوعی Claude برای سازماندهی و تحلیل حجم عظیمی از داده‌های بازار سرمایه استفاده کند، با یک خطای سیستماتیک روبرو شد. طبق گزارش‌ها، در حالی که این مدل هوش مصنوعی Claude مشغول پردازش دستورات بود، به دلیل تفسیر نادرست از کدهای دستوری یا باگ در رابط برنامه‌نویسی (API)، به جای اجرای عملیات مرتب‌سازی، فرمان حذف گسترده (Delete) را بر روی دایرکتوری اصلی پروژه اجرا کرد.

درس‌هایی از خطای سیستماتیک هوش مصنوعی Claude

این واقعه نشان می‌دهد که حتی پیشرفته‌ترین مدل‌های زبانی نیز در مدیریت فایل‌های سیستم‌عامل با محدودیت‌های جدی مواجه هستند. حذف ناگهانی ۵۵,۵۵۰ فایل در زمانی کمتر از ۱۲۰ ثانیه، نشان‌دهنده سرعت عمل بالای مدل در اجرای فرامین است که در صورت بروز خطا، می‌تواند خسارات جبران‌ناپذیری به بار آورد. متخصصان امنیت سایبری پس از این حادثه توصیه‌های زیر را برای کاربران حرفه‌ای مطرح کرده‌اند:

اجرای دسترسی محدود: هرگز به ابزارهای هوش مصنوعی دسترسی مستقیم برای نوشتن یا حذف فایل (Write/Delete) در پوشه‌های حساس سیستمی ندهید و همواره عملیات را در محیط‌های ایزوله انجام دهید.

پشتیبان‌گیری مستمر: قبل از واگذاری پروژه‌های بزرگ به هوش مصنوعی Claude یا مدل‌های مشابه، از تمامی داده‌های خود در فضای ابری یا حافظه‌های جانبی بک‌آپ تهیه کنید.

این رویداد بار دیگر اهمیت «نظارت انسانی» (Human-in-the-loop) را در هنگام کار با مدل‌های هوش مصنوعی یادآوری می‌کند؛ جایی که کوچک‌ترین خطا در درک دستور کاربر توسط مدل، می‌تواند به حذف دائمی ماه‌ها تلاش و داده‌های ارزشمند منجر شود.

مجله تخصصی هک و امنیت