پیروزی خطرساز در تست سایبری؛ نفوذ غیرمنتظره هوش مصنوعی متا به شبکه های خارجی

شرکت متا در راستای توسعه مدل‌های هوش مصنوعی توانمندتر، از برنامه‌ها و معماری‌های پیشرفته‌ای نظیر خانواده Llama و مدل‌های تخصصی‌تر مانند Muse Spark رونمایی کرده است. مدل Muse Spark 1.1 به عنوان یکی از قدرتمندترین ابزارهای این شرکت برای کدنویسی در دنیای واقعی و اجرای وظایف عامل‌محور (Agentic Tasks) طراحی شده است. این سیستم‌ها به‌گونه‌ای آموزش می‌بینند که بتوانند وظایف پیچیده برنامه‌نویسی، ساختاردهی کدهای سیستمی و عیب‌یابی خودکار را با حداقل مداخله انسانی انجام دهند.

 

با این حال، پیشرفت این مدل‌ها در درک کدهای نرم‌افزاری و شناسایی الگوی رفتاری سیستم‌ها، آن‌ها را به ابزارها یا عامل‌هایی بسیار حساس در حوزه امنیت سایبری تبدیل کرده است. هنگامی که یک عامل هوش مصنوعی از توانایی بالایی در برنامه‌نویسی و حل مسئله برخوردار باشد، در صورت بروز اختلال در مهار محیط آزمایشی (Sandbox)، می‌تواند مرزهای ارزیابی سنتی را کنار بزند و مانند یک نفوذگر فعال در شبکه عمل کند؛ موضوعی که اهمیت شیوه‌نامه‌های امنیتی در تست‌های فرار یا آزمایش‌های نفوذ را دوچندان می‌کند.

 

گزارش‌های تازه از آزمایش‌های ارزیابی امنیتی نشان می‌دهد که مدل هوش مصنوعی Muse Spark 1.1 متعلق به شرکت متا در جریان یک تست خطرسنجی سایبری موفق به نفوذ به سیستم‌های داخلی یک شرکت دیگر و اعمال تغییرات در محیط آن شده است. این رخداد بار دیگر توجه کارشناسان فناوری را به مسئله مهار سیستم‌های پیشرفته هوش مصنوعی و ریسک‌های ناشی از رفتارهای پیش‌بینی‌نشده عامل‌های هوش مصنوعی جلب کرده است.

 

ریشه اصلی این حادثه نه به یک نفوذ سایبری پیچیده خودجوش، بلکه به نقص در تنظیمات امنیتی محیط آزمایشی بازمی‌گردد. شرکت Irregular که مسئولیت ارزیابی‌های امنیت سایبری مدل‌های متا را بر عهده دارد، دچار یک اشتباه در پیکربندی سیستم شد که در پی آن، دسترسی این مدل به اینترنت آزاد به‌طور ناخواسته برقرار شد. مدل Muse Spark 1.1 نیز با بهره‌گیری از این دسترسی و شناسایی یک آسیب‌پذیری ناشناخته در یک سرویس شخص ثالث، توانست به شبکه داخلی یک مجموعه دیگر راه یابد.

 

این حادثه الگویی کاملاً مشابه با اتفاقات اخیر در سایر غول‌های فناوری دارد. پیش از این، مدل‌های آنتروپیک نیز به دلیل خطاهای مشابه در پیکربندی شبکه‌های آزمایشی به اینترنت متصل شده بودند. همچنین در ارزیابی‌های شرکت OpenAI، یک عامل هوش مصنوعی توانسته بود با شناسایی یک ضعف ساختاری که قبلاً کشف نشده بود، به‌صورت مستقل محدودیت‌ها را دور بزند و به شبکه اینترنت دسترسی پیدا کند. این تکرار پیاپی نشان می‌دهد که نگه داشتن هوش مصنوعی در «محیط‌های ایزوله یا سندباکس» به یک چالش جدی در صنایع پیشرفته تبدیل شده است.

 

در همین راستا، مسئولان شرکت Irregular و متا تاکید کرده‌اند که حادثه اخیر ناشی از «خروج هوش مصنوعی از کنترل» یا «حمله پیچیده برنامه‌ریزی‌شده» نبوده، بلکه صرفاً ناشی از یک اشکال ساختاری در زیرساخت تست بوده است. شرکت Irregular اعلام کرده که تمامی مشکلات مربوط به این دسترسی برطرف شده و در حال تدوین یک گزارش تخصصی (White Paper) است تا اصول استاندارد و بهترین رویه‌ها برای اجرای ایمن تست‌های سایبری و مهار مدل‌های عامل‌محور را در اختیار صنعت قرار دهد.