غلامحسین محمدی سرپرست تأمین اجتماعی شد
پس از گزارش رفتارهای خارج از کنترل AIاروپا نظارت بر غولهای AI را آغاز کرد
به گزارش بازارگون از رویترز، اروپا پس از رخدادهای امنیتی اخیر مرتبط با مدلهای هوش مصنوعی شرکتهای OpenAI و Anthropic، مذاکرات با این دو شرکت را آغاز کرده است؛ اقدامی که همزمان با اجرای قانون هوش مصنوعی اتحادیه اروپا انجام میشود و بار دیگر ضرورت نظارت بر سیستمهای پیشرفته و پرریسک هوش مصنوعی را در کانون توجه قرار داده است.
مقامهای کمیسیون اروپا اعلام کردند که این نهاد در حال بررسی جزئیات رخدادهای امنیتی گزارششده از سوی دو شرکت توسعهدهنده مدلهای هوش مصنوعی است. به گفته آنها، OpenAI و Anthropic اطلاعات اولیه مربوط به این حوادث را در اختیار کمیسیون قرار دادهاند و در مرحله بعد مشخص خواهد شد که آیا اقدام نظارتی رسمیتری علیه این شرکتها نیاز است یا خیر.
این تحولات در شرایطی رخ میدهد که قانون هوش مصنوعی اتحادیه اروپا (AI Act) از دوم اوت اجرایی میشود؛ قانونی که نخستین چارچوب جامع جهان برای تنظیم فعالیت شرکتهای فعال در حوزه هوش مصنوعی به شمار میرود و هدف آن کنترل ریسکهای ناشی از استفاده از این فناوری در حوزههای مختلف اقتصادی و اجتماعی است.
بر اساس این قانون، توسعهدهندگان مدلهای پیشرفته هوش مصنوعی که میتوانند خطرات گستردهای ایجاد کنند، موظف به ارزیابی و مدیریت ریسکهایی مانند تهدیدهای امنیت سایبری، سوءاستفادههای احتمالی، دستکاری اطلاعات، آسیب به حقوق اساسی افراد و حتی خطرات مرتبط با حوزههای شیمیایی، زیستی و هستهای هستند.
مقامهای اروپایی پس از گزارش دو رخداد امنیتی اخیر، تأکید کردهاند که این اتفاقات اهمیت وجود سازوکارهای نظارتی مؤثر بر توسعهدهندگان هوش مصنوعی را نشان میدهد.
ماجرا از آنجا آغاز شد که شرکت Anthropic اعلام کرد برخی مدلهای هوش مصنوعی Claude این شرکت در جریان آزمایشهای امنیت سایبری توانستهاند به سیستمهای سه شرکت نفوذ کنند. این شرکت تأکید کرده بود که این آزمایشها در چارچوب ارزیابی تواناییهای امنیتی مدلها انجام شده است.
چند روز پیش از آن نیز OpenAI اعلام کرده بود یکی از عاملهای هوش مصنوعی این شرکت در جریان یک آزمایش امنیتی، رفتاری خارج از کنترل مورد انتظار نشان داده است. این رخدادها نگرانیها درباره توانایی روزافزون عاملهای هوش مصنوعی و احتمال انجام اقداماتی خارج از نظارت مستقیم انسان را افزایش داده است.
یکی از مقامهای اتحادیه اروپا اعلام کرد این نهاد پیش از عمومی شدن این رخدادها، از سوی هر دو شرکت در جریان موضوع قرار گرفته و اکنون در حال دریافت اطلاعات تکمیلی است. به گفته او، پس از بررسی دادههای ارائهشده، کمیسیون درباره نیاز به اقدامات رسمیتر تصمیم خواهد گرفت.
قانون هوش مصنوعی اتحادیه اروپا برای شرکتهایی که مدلهای عمومی پیشرفته هوش مصنوعی (GPAI) یا مدلهای دارای ریسک سیستماتیک توسعه میدهند، الزامات سختگیرانهای در نظر گرفته است. این شرکتها باید خطرات احتمالی مدلهای خود را شناسایی، مستندسازی و برای کاهش آنها برنامه مشخص ارائه کنند.
همچنین این مقررات شرکتها را ملزم میکند در برخی موارد به کاربران اطلاع دهند که با یک سیستم هوش مصنوعی تعامل دارند و مشخص کنند محتوای تولیدشده یا دستکاریشده توسط هوش مصنوعی ایجاد شده است.
در صورت نقض این مقررات، شرکتها با جریمههای سنگین مواجه خواهند شد. میزان این جریمهها بسته به نوع تخلف میتواند از ۷.۵ میلیون یورو یا ۱.۵ درصد گردش مالی جهانی شرکت آغاز شود و تا ۳۵ میلیون یورو یا ۷ درصد گردش مالی جهانی افزایش یابد.
ورود قانون هوش مصنوعی اروپا به مرحله اجرا در حالی است که سرعت توسعه مدلهای مولد و عاملهای هوشمند، نگرانیهای تازهای درباره امنیت، کنترلپذیری و مسئولیتپذیری این فناوری ایجاد کرده است. رخدادهای اخیر OpenAI و Anthropic نیز به نخستین آزمونهای عملی برای سنجش کارآمدی چارچوب نظارتی جدید اروپا تبدیل شدهاند.
اخبار فناوری را اینجا بخوانید.
