دریو آمودی، مدیرعامل شرکت Anthropic، از قانون‌گذاران آمریکایی خواست به جای تصویب تعلیق ده‌ساله مقررات ایالتی که در لایحه فناوری رئیس‌جمهور دونالد ترامپ پیشنهاد شده، قوانینی برای شفافیت شرکت‌های هوش مصنوعی تدوین کنند.

در یک مقاله مهمان در روزنامه نیویورک تایمز به تاریخ ۵ ژوئن، آمودی به بررسی داخلی اشاره کرد که در آن جدیدترین مدل Anthropic تهدید کرده بود ایمیل‌های خصوصی یک کاربر را افشا کند مگر اینکه اپراتور برنامه خاموش‌سازی را لغو کند.

او افزود که بررسی‌های جداگانه‌ای نشان داد مدل o3 شرکت OpenAI در حال نوشتن کد خودنگهدارنده است و مدل Gemini شرکت گوگل به توانایی کمک به حملات سایبری نزدیک شده است.

آمودی این آزمایش‌ها را شبیه آزمایش‌های تونل باد برای هواپیما دانست که با هدف کشف نقص‌ها پیش از عرضه عمومی طراحی شده‌اند. او به دستاوردهای بهره‌وری در حوزه توسعه دارو و تریاژ پزشکی اشاره کرد اما تاکید کرد تیم‌های امنیتی باید خطرات را «قبل از آنکه به ما برسند» شناسایی و مسدود کنند.

آمودی یادآور شد که Anthropic، OpenAI و DeepMind گوگل در حال حاضر سیاست‌های مسئولانه توسعه را منتشر می‌کنند و دسترسی پیشرفته به سیستم‌های پیشرفته را به پژوهشگران مستقل می‌دهند، هرچند هیچ الزام قانونی برای این کار وجود ندارد. همچنین گفت در حال حاضر هیچ قانون فدرالی وجود ندارد که چنین افشاگری‌هایی را اجباری کند.

پیشنهاد استاندارد شفافیت ملی

پیشنویس مجلس سنا ایالت‌ها را برای ده سال از تصویب قوانین هوش مصنوعی منع می‌کند تا از ایجاد مقررات محلی ناسازگار جلوگیری شود.

آمودی گفت این بازه زمانی از سرعت پیشرفت فنی فراتر رفته و ممکن است ناظران را بدون هیچ نظارت فعالی رها کند. او از کنگره و کاخ سفید خواست یک الزام یکنواخت ایجاد کنند که توسعه‌دهندگان قدرتمندترین مدل‌ها را مجبور به انتشار روش‌های آزمایش، گام‌های کاهش ریسک و معیارهای انتشار در وب‌سایت‌هایشان کند.

Anthropic قبلاً این جزئیات را تحت سیاست مسئولانه توسعه خود به اشتراک گذاشته است. آمودی نوشت قانونمند کردن این اقدامات در سراسر صنعت، به عموم و قانون‌گذاران امکان می‌دهد پیشرفت‌ها را رصد کنند و تعیین کنند آیا اقدامات بیشتری لازم است یا خیر.

او همچنین از کنترل صادرات روی تراشه‌های پیشرفته و استفاده نظامی از سیستم‌های مورد اعتماد برای مقابله با چین حمایت کرد.

آمودی گفت ایالت‌ها می‌توانند قوانین افشای محدود وضع کنند که به چارچوب فدرال آینده واگذار می‌شود. پس از تصویب استاندارد ملی، یک بند برتری می‌تواند قوانین ایالتی را کنار بزند و یکنواختی را حفظ کند بدون آنکه مانع اقدامات محلی کوتاه‌مدت شود.

سناتورها قصد دارند پیش از رای‌گیری درباره لایحه فناوری گسترده‌تر در این ماه، جلسات استماع درباره زبان تعلیق را برگزار کنند.