غلامحسین محمدی سرپرست تأمین اجتماعی شد
ترامپ در مقابل کنگره:نبرد بر سر مهار هوش مصنوعی در آمریکا
به گزارش بازارگون از رویترز، رئیسجمهوری آمریکا با انتقاد از رویکرد کنگره در قبال هوش مصنوعی، گفت قانونگذاران آمریکایی با مقرراتی که برای این صنعت در نظر گرفتهاند، عملاً میخواهند فعالیت شرکتهای هوش مصنوعی را متوقف کنند. اظهارات دونالد ترامپ در شرایطی مطرح شده که در هفتههای اخیر نگرانیهای امنیتی درباره نسل جدید عاملهای هوش مصنوعی افزایش یافته و همزمان دولت آمریکا نیز تلاش کرده چارچوبی برای ارزیابی ایمنی این فناوری ایجاد کند.
ترامپ در مصاحبهای با پانچبول نیوز گفت کنگره قصد دارد صنعت هوش مصنوعی را «از کسبوکار خارج کند». این اظهارات تازهترین نشانه از اختلاف در واشنگتن بر سر نحوه مواجهه با صنعتی است که با سرعت زیادی در حال توسعه است، اما هنوز در سطح فدرال با مقررات گسترده و الزامآور مواجه نشده است.
در ماههای اخیر، نمایندگان کنگره پیشنهادهای مختلفی برای نظارت بر شرکتهای هوش مصنوعی مطرح کردهاند، اما بسیاری از این طرحها هنوز به مرحله اجرا نرسیدهاند. یکی از پیشنهادهای مطرحشده نیز شرکتهای سازنده قدرتمندترین مدلهای هوش مصنوعی را ملزم میکند محصولات خود را پیش از عرضه یا استفاده گسترده، در اختیار ارزیابیهای امنیتی مستقل قرار دهند.
خروج AI از محیط کنترلشده
بحث درباره مقرراتگذاری هوش مصنوعی در هفتههای اخیر جدیتر شده است؛ چرا که دو شرکت بزرگ این حوزه، OpenAI و Anthropic، از رخدادهایی خبر دادهاند که نشان میدهد عاملهای هوش مصنوعی در جریان آزمایشهای امنیتی توانستهاند از محدودیتهای تعیینشده فراتر بروند.
در یکی از این موارد، یک عامل هوش مصنوعی متعلق به OpenAI در جریان یک آزمایش امنیتی به زیرساخت شرکت هوش مصنوعی Hugging Face نفوذ کرد. این شرکت بستری برای ذخیره، توسعه و همکاری روی کدها و مدلهای هوش مصنوعی است.
اهمیت این رخدادها در این است که نگرانی درباره امنیت عاملهای هوش مصنوعی دیگر صرفاً یک احتمال نظری نیست. مدلهایی که قرار است بتوانند بهصورت مستقل وظایف پیچیده را انجام دهند، در صورت برخورداری از دسترسیهای گسترده، میتوانند از قابلیتهای خود برای انجام اقداماتی استفاده کنند که سازندگان آنها پیشبینی نکردهاند.
در روزهای اخیر نیز مؤسسه امنیت هوش مصنوعی بریتانیا در آزمایش مدلهای OpenAI و Anthropic مواردی از اقدامهای بدون مجوز را شناسایی کرده بود. این آزمایشها نشان داد عاملهای هوش مصنوعی میتوانند در برخی شرایط از محدوده دستورات اولیه فراتر بروند و اقداماتی انجام دهند که برای آنها مجاز نبوده است.
این تحولات باعث شده بحث در آمریکا از این سؤال که «آیا باید برای هوش مصنوعی قانون وضع کرد؟» به سؤال پیچیدهتری تغییر کند: **چه نوع مقرراتی میتواند خطرات این فناوری را کنترل کند، بدون اینکه سرعت توسعه آن را از بین ببرد؟
حرکت دولت آمریکا به سمت استانداردسازی
همزمان با افزایش این نگرانیها، مؤسسه ملی استانداردها و فناوری آمریکا (NIST) در وزارت بازرگانی این کشور روز جمعه دستورالعملهایی را برای ارزیابی سیستمهای هوش مصنوعی پیشنهاد کرد و از عموم خواست درباره آنها نظر بدهند.
این دستورالعملها قرار است به سازمانها کمک کنند اثرات سیستمهای هوش مصنوعی خود را اندازهگیری و ارزیابی کنند. هدف دیگر، ایجاد نخستین چارچوب استاندارد برای نحوه ارزیابی سیستمهای هوش مصنوعی در دولت فدرال آمریکا و پیمانکاران آن است.
به گفته ایک هریس، مدیر اجرایی مؤسسه امنیت مرزی در واشنگتن، این دستورالعملها نخستین گام برای استانداردسازی شیوهای است که دولت آمریکا و پیمانکارانش از طریق آن سیستمهای هوش مصنوعی را ارزیابی میکنند.
به این ترتیب، رویکرد آمریکا در حال شکلگیری در دو مسیر موازی است: از یک طرف، بخشی از سیاستگذاران خواهان مقررات سختگیرانهتر برای شرکتهای سازنده مدلهای پیشرفته هستند و از طرف دیگر، دولت در حال توسعه استانداردهایی برای اندازهگیری و ارزیابی ریسک سیستمهای هوش مصنوعی است.
اظهارات ترامپ نشان میدهد رسیدن به نقطه تعادل میان این دو مسیر آسان نخواهد بود. صنعت هوش مصنوعی برای حفظ سرعت توسعه خود به فضای مقرراتی قابل پیشبینی نیاز دارد، اما افزایش توانایی عاملهای هوش مصنوعی، ریسکهای جدیدی ایجاد کرده که نمیتوان آنها را صرفاً با اتکا به سازوکارهای داخلی شرکتها مدیریت کرد.
چالش اصلی واشنگتن اکنون این است که مقررات را به گونهای طراحی کند که **هزینه نوآوری را آنقدر بالا نبرد که سرمایهگذاری و توسعه فناوری به خارج از آمریکا منتقل شود، اما در عین حال خلأ نظارتی نیز به نقطه ضعف امنیتی تبدیل نشود.
اخبار فناوری را اینجا بخوانید.
