این مدل داخلی OpenAI بود که فرار کرد و Hugging Face را هک کرد
بلک بلاگ: در رویدادی کم سابقه در صنعت هوش مصنوعی، OpenAI اعلام نمود دو مدلهای پیشرفته این شرکت در جریان یک آزمایش امنیتی، از محیط کنترل شده خارج شده و به زیرساخت های شرکت Hugging Face نفوذ کرده اند.
به گزارش بلک بلاگ به نقل از خبر آنلاین و برپایه گزارش هوشیو، OpenAI روز سه شنبه ۲۱ جولای اعلام نمود که دو مدل هوش مصنوعی این شرکت از کنترل خارج شدند و با موفقیت به پلت فرم محبوب Hugging Face نفوذ کردند. این حادثه که هفته ی پیش و در جریان آزمایش قابلیت های امنیت سایبری سیستم های OpenAI رخ داد، نمونه ای از همان ظرفیتی را نشان داد که شرکتهای هوش مصنوعی هشدار داده بودند بزودی می تواند به واقعیتی شبیه داستان های علمی تخیلی تبدیل گردد.
لابراتوار های هوش مصنوعی مانند OpenAI و آنتروپیک طی یک سال قبل مدلهای هوش مصنوعی ای عرضه نموده اند که برای شناسایی مشکلات امنیت سایبری سفارشی سازی شده اند. درعین حال، این شرکت ها هشدار داده اند که فناوری آنها می تواند با یافتن سریع تر حفره های موجود در شبکه های کامپیوتری سازمان ها نسبت به توان مدافعان برای رفع آنها، خطرات جدیدی ایجاد نماید. افشاگری های OpenAI در روز سه شنبه نشان داده است که چنین رخدادهای امنیتی از هم اینک شروع شده اند و حتی شرکتهای پیشرفته حوزه هوش مصنوعی نیز امکان دارد بطورکامل برای رویارویی با آنها آماده نباشند.
«الکس لوینسون»، مشاور امنیت سایبری که بر قابلیت های خودمختار تمرکز دارد، گفت سیستم های جدید هوش مصنوعی می توانند چندین مرحله را پشت سرهم انجام دهند، راه هایی برای عبور از موانع پیدا کنند و روشهای جدیدی برای حمله به یک شبکه بیابند. او اظهار داشت: «این یک آستانه واقعی است و به بخشی عادی از چشم انداز امنیت تبدیل خواهد شد.»
OpenAI اعلام نمود نفوذ به Hugging Face زمانی شروع شد که این شرکت تلفیقی از دو مدل خود، یعنی GPT 5.6 Sol و یک مدل قدرتمندتر که هنوز منتشر نشده است را آزمایش کرد تا مشخص شود این مدلها تا چه اندازه می توانند ضعف های آنلاین را به یکدیگر زنجیر کنند و در نهایت یک حمله سایبری موفق ایجاد کنند.
OpenAI در یک پست وبلاگی درباره ی این حادثه گفت این آزمایش بگونه ای طراحی شده بود که مدلها در یک محیط آزمایشی امن، معروف به Sandbox نگه داشته شوند. اما مدلها یک ضعف پیدا کردند که به آنها اجازه داد از Sandbox بیرون بروند و به اینترنت متصل شوند. سپس آنها Hugging Face را هدف قرار دادند، برای اینکه استنباط کرده بودند این کتابخانه که شامل میلیونها مدل هوش مصنوعی است، امکان دارد سرنخ هایی درباره ی چگونگی عبور موفقیت آمیز از ارزیابی موردنظر در اختیار آنها قرار دهد. OpenAI اعلام نمود که برای رفع مشکلاتی که به این حمله منجر شده اند، با Hugging Face همکاری می کند.
OpenAI در پست وبلاگی خود نوشت: «ما این رخداد را یک حادثه سایبری بی سابقه می دانیم که شامل قابلیت های پیشرفته روز سایبری است و بر همین مبنا به آن پاسخ می دهیم. ما درحال اجرای کنترل های سخت گیرانه در پیکربندی زیرساخت ها هستیم؛ اقدامی که تا زمان اصلاح ضعف ها، با هزینه پایین آمدن سرعت تحقیقات همراه خواهد بود.»
Hugging Face هفته ی پیش اعلام نموده بود که این نفوذ را شناسایی کرده و می دانسته این حمله بوسیله ی یک سیستم خودمختار انجام شده است، اما در آن زمان اعلام نکرده بود که مسئول این حمله OpenAI بوده است. «کلم دِلانگ»، مدیرعامل Hugging Face، روز سه شنبه گفت شرکت وی در ۲۴ ساعت گذشته همکاری نزدیکی با OpenAI داشته تا این حمله را برطرف کند.
دلانگ در اطلاعیه ای گفت از «همکاری» OpenAI بعد از این نفوذ قدردانی می کند. او اضافه کرد: «این حادثه، که احیانا اولین نمونه از نوع خود است، نکته ای را اثبات می کند که مدت ها به آن باور داشته ایم: ایمنی هوش مصنوعی با کارکردن هیچ شرکت واحدی به شکل مخفیانه حل نخواهد شد.»
«ریچارد بارنز»، پژوهشگر مستقل امنیت که در توسعه Mythos همکاری کرده باور دارد صنعت امنیت سایبری حدود یک دهه پیش با چالشی مشابه رو به رو شد؛ زمانیکه ابزارهای جدیدی به نام Fuzzerها، کار مهاجمان برای نفوذ به سیستم های آنلاین را خیلی آسان تر کردند. شرکتهای فناوری از این ابزارها جهت بررسی ضعف های سیستم های خود بهره گیرند و در نهایت توانستند از بیشتر حملات جلوگیری نمایند. به اعتقاد بارنز شرکت ها حال باید رویکرد مشابهی را برای آماده شدن در مقابل حملات مبتنی بر هوش مصنوعی اتخاذ کنند؛ «پیش از آنکه این ضعف ها توسط افراد مخرب که به این ابزارها دسترسی دارند، پیدا و مورد سوءاستفاده قرار گیرند.»
بطور خلاصه او عنوان کرد: این یک آستانه واقعی است و به بخشی عادی از چشم انداز امنیت تبدیل خواهد شد. سپس آنها Hugging Face را هدف قرار دادند، به جهت اینکه استنباط کرده بودند این کتابخانه که شامل میلیون ها مدل هوش مصنوعی است، امکان دارد سرنخ هایی درباره ی ی چگونگی عبور موفقیت آمیز از ارزیابی موردنظر در اختیار آنها قرار دهد. ما در حال اجرای کنترل های سخت گیرانه در پیکربندی زیرساخت ها هستیم؛ اقدامی که تا زمان اصلاح ضعف ها، با هزینه پایین آمدن سرعت تحقیقات همراه خواهد بود.
این مطلب را می پسندید؟
(0)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب