در جریان آزمایش‌های امنیتی

عامل هوش مصنوعی OpenAi از محیط ایزوله فرار کرد

به گزارش بازارگون از رویترز، اپن‌ای‌آی اعلام کرد یک عامل هوش مصنوعی خودمختار که در جریان آزمایش‌های امنیتی این شرکت تحت ارزیابی قرار داشت، موفق شد از محیط ایزوله آزمایش خارج شود، به اینترنت دسترسی پیدا کند و در نهایت زیرساخت شرکت هوش مصنوعی Hugging Face را هک کند؛ رخدادی که این شرکت آن را «حادثه‌ای سایبری بی‌سابقه» توصیف کرده است.

به گزارش رویترز، اوپن‌ای‌آی روز سه‌شنبه در یادداشتی اعلام کرد این رخداد در جریان آزمایش توانمندی برخی از پیشرفته‌ترین مدل‌های هوش مصنوعی این شرکت در یک محیط کنترل‌شده روی داده است.

براساس این توضیحات، عامل هوش مصنوعی که برای انجام یک مأموریت مشخص طراحی شده بود، برخلاف انتظار موفق شد محدودیت‌های محیط آزمایش را پشت سر بگذارد، به اینترنت متصل شود و برای دستیابی به هدف تعیین‌شده، به زیرساخت‌های شرکت Hugging Face نفوذ کند.

اوپن‌ای‌آی این اتفاق را «حادثه‌ای سایبری بی‌سابقه با استفاده از پیشرفته‌ترین قابلیت‌های تهاجمی سایبری» توصیف و اعلام کرد پس از این رخداد، تدابیر امنیتی و سازوکارهای حفاظتی خود را تقویت کرده است.

شرکت Hugging Face که یکی از مهم‌ترین میزبان‌های مدل‌های متن‌باز هوش مصنوعی و مجموعه‌داده‌های مرتبط به شمار می‌رود، هفته گذشته نیز اعلام کرده بود هدف حمله‌ای قرار گرفته که با حملات سایبری متعارف تفاوت اساسی داشته است.

این شرکت در آن زمان اعلام کرده بود حمله از ابتدا تا انتها توسط یک «سامانه هوش مصنوعی خودمختار» انجام شده و همین موضوع توجه جامعه امنیت سایبری را به خود جلب کرده است.

«کلمنت دلانگ»، هم‌بنیان‌گذار Hugging Face، نیز در شبکه اجتماعی ایکس نوشته بود این شرکت از همان ابتدا احتمال می‌داد حمله از سوی یکی از آزمایشگاه‌های پیشرو هوش مصنوعی انجام شده باشد. او پس از انتشار گزارش اوپن‌ای‌آی نوشت: «حالا مشخص شد همین‌طور بوده است. اینکه تمام این فرایند به‌صورت کاملاً خودمختار انجام شده، واقعاً شگفت‌آور است.»

افشای این موضوع از سوی اوپن‌ای‌آی، آن هم در شرایطی که این شرکت اعلام کرده بود مدل‌ها در «محیطی کاملاً ایزوله» قرار داشته‌اند، احتمالاً نگرانی‌ها درباره توانمندی‌ها و مخاطرات مدل‌های پیشرفته هوش مصنوعی را تشدید خواهد کرد.

«گرگ کاسار»، نماینده دموکرات کنگره آمریکا از ایالت تگزاس، این رخداد را نگران‌کننده توصیف کرد و خواستار تدوین مقررات سختگیرانه‌تر برای توسعه هوش مصنوعی شد.

او تاکید کرد توسعه هوش مصنوعی با سرعتی بسیار بالا در حال انجام است، در حالی که مقررات مؤثری برای تضمین ایمنی وجود ندارد. به گفته وی، انجام آزمون‌های مستقل ایمنی، الزام شرکت‌ها به افشای رخدادهای امنیتی و همکاری بین‌المللی برای جلوگیری از بروز حوادث فاجعه‌بار ضروری است.

در همین حال، «کتی موسوریس»، مدیرعامل شرکت Luta Security، این حادثه را نشانه‌ای از تهدیدهایی دانست که در آینده بیشتر مشاهده خواهند شد.

او گفت: «مدل‌های امروزی مانند اختاپوس‌هایی فوق‌العاده باهوش هستند که می‌توانند از هر شکافی عبور کنند.» به گفته وی، آزمایشگاه‌های هوش مصنوعی و نهادهای دولتی باید توانایی مهار، پایش و اطلاع‌رسانی سریع درباره چنین رخدادهایی را ایجاد کنند؛ قابلیتی که به اعتقاد او هنوز وجود ندارد.

«مت سویچ»، مهندس شرکت امنیت سایبری Tolmo نیز گفت این حادثه نشان می‌دهد مدل‌های مرزی هوش مصنوعی به سطح توانمندی مهاجمان پیشرفته سایبری بسیار نزدیک شده‌اند، هرچند اجرای چنین حملاتی دیگر محدود به آزمایشگاه‌های پیشرفته نیست و با فناوری‌های در دسترس نیز امکان‌پذیر شده است.

او افزود نتایجی مشابه آنچه اوپن‌ای‌آی توصیف کرده، پیش از این نیز در آزمایش‌های داخلی شرکتش مشاهده شده و حتی برای دستیابی به چنین قابلیت‌هایی لزوماً نیازی به جدیدترین مدل‌های هوش مصنوعی نیست.