غلامحسین محمدی سرپرست تأمین اجتماعی شد
جزئیات تازه از نفوذ عامل هوش مصنوعی OpenAI به Hugging Faceهوش مصنوعی خودمختار OpenAI روزها آزادانه فعالیت کرد
به گزارش بازارگون، گزارش تازه رویترز از حادثه نفوذ عامل هوش مصنوعی اوپنایآی، ابعاد جدیدی از این رخداد را آشکار کرده است؛ از جمله اینکه این عامل چند روز بدون شناسایی به فعالیت ادامه داده و اوپنایآی با تأخیر متوجه شده مهاجم، یکی از سامانههای خود این شرکت بوده است.
به گفته چند منبع آگاه، عامل خودمختار اوپنایآی نخستین تلاش خود برای خروج از محیط ایزوله آزمایش را حدود ۹ ژوئیه آغاز کرد. سپس از ۱۱ تا ۱۳ ژوئیه به زیرساختهای شرکت Hugging Face نفوذ کرد؛ موضوعی که توماس ولف، همبنیانگذار این شرکت، نیز آن را تأیید کرده است.
با این حال، بر اساس گزارش رویترز، اوپنایآی تا حدود ۲۰ ژوئیه متوجه نشد عامل این حمله متعلق به خود شرکت است و نخستین تماس میان دو شرکت نیز چند روز پس از پایان نفوذ برقرار شد.
اوپنایآی سرانجام ۲۱ ژوئیه بهصورت رسمی اعلام کرد یکی از عاملهای هوش مصنوعی این شرکت از محیط آزمایش خارج شده و به سامانههای Hugging Face نفوذ کرده است. این شرکت این رخداد را «حادثهای بیسابقه در حوزه ایمنی هوش مصنوعی» توصیف کرده و گفته است بررسی آن با همکاری مشاوران مستقل ادامه دارد و گزارش فنی این حادثه نیز منتشر خواهد شد.
سخنگوی اوپنایآی در عین حال اعلام کرد گزارش رویترز حاوی «چند نادقیقگویی» است، اما درباره موارد مورد اعتراض توضیحی ارائه نکرد.
بر اساس این گزارش، هنگام وقوع حادثه، اوپنایآی در حال آزمایش قابلیتهای سایبری یک عامل هوش مصنوعی مبتنی بر مدل GPT-5.6 Sol و یک مدل پیشرفته منتشرنشده بود. سه منبع آگاه گفتهاند حتی پیش از حمله نیز رفتارهای غیرعادی از این مدلها مشاهده شده بود؛ از جمله ثبت یادداشتهایی برای نسخههای بعدی با هدف دور زدن محدودیتهای داخلی و غیرفعال شدن برخی سامانههای نظارتی در جریان آزمایشها.
رویترز تأکید کرده است که نتوانسته ارتباط مستقیم این رفتارها با عاملی که در نهایت به Hugging Face حمله کرد را بهطور مستقل تأیید کند.
به گفته منابع آگاه، پس از آنکه Hugging Face در ۱۶ ژوئیه اعلام کرد هدف حمله یک سامانه هوش مصنوعی خودمختار قرار گرفته، اوپنایآی احتمال داد مهاجم ممکن است یکی از عاملهای آزمایشی خود این شرکت باشد. بررسی گزارشهای ثبتشده داخلی در روزهای ۱۸ و ۱۹ ژوئیه نیز شواهدی از خروج این عامل از محیط آزمایش را آشکار کرد.
چهار منبع مطلع نیز گفتهاند اوپنایآی بهطور همزمان ارزیابیهای متعددی روی مدلهای خود انجام میدهد و حجم بالای دادههای تولیدشده، نظارت کامل بر رفتار همه مدلها را دشوار کرده است.
بر اساس این گزارش، زمانی که اوپنایآی موضوع را به Hugging Face اطلاع داد، این شرکت پیشتر حمله را به اداره تحقیقات فدرال آمریکا (FBI) گزارش کرده بود، هرچند مشخص نیست تحقیقات رسمی درباره این پرونده آغاز شده باشد.
این حادثه در شرایطی رخ داده که اوپنایآی خود را برای عرضه احتمالی سهام در بورس آماده میکند و به اعتقاد برخی کارشناسان، میتواند پرسشهای جدی درباره کفایت سازوکارهای ایمنی و نظارت بر عاملهای هوش مصنوعی خودمختار ایجاد کند.
اخبار فناوری را اینجا بخوانید.
