OpenAI و Anthropic بررسی 30 روزه برای مدل‌های پیشرفته AI را پیشنهاد می‌کنند

OpenAI و Anthropic در واشنگتن همکاری می‌کنند تا یک سیستم بررسی فدرال برای مدل‌های پیشرفته AI شکل دهند، با وجود رقابت برای مشتریان، تأمین مالی و رهبری فناوری.

خلاصه

• OpenAI و Anthropic از دسترسی فدرال تا 30 روز قبل از انتشار برخی مدل‌های پیشرفته حمایت می‌کنند.
• فرآیند پیشنهادی در سراسر صنعت اعمال خواهد شد، از جمله رقبایی مانند Meta و xAI.
• آژانس‌های فدرال باید چارچوب را تا 1 اوت توسعه دهند طبق یک دستور اجرایی در ژوئن.
• Nvidia، Meta و Microsoft به طور جداگانه در مورد کنترل‌های گسترده بر مدل‌های AI با وزن باز هشدار داده‌اند.

OpenAI و Anthropic به دنبال استانداردهای بررسی مشترک

OpenAI و Anthropic از دولت ترامپ می‌خواهند که یک فرآیند بررسی منسجم برای مدل‌های AI با قابلیت‌های پیشرفته امنیت سایبری یا امنیت ملی اتخاذ کند، طبق گزارش The Information.

همکاری آنها قبل از مهلت 1 اوت برای آژانس‌های فدرال است تا تعیین کنند کدام سیستم‌ها باید به عنوان "مدل‌های پیشرفته تحت پوشش" واجد شرایط باشند. این مدل‌ها می‌توانند برای ارزیابی به دولت ارائه شوند تا حداکثر 30 روز قبل از انتشار به سایر شرکای مورد اعتماد.

گزارش‌ها نشان می‌دهند که هر دو شرکت می‌خواهند استانداردها در سراسر صنعت AI اعمال شود و نه محدود به توسعه‌دهندگانی که قبلاً با واشنگتن همکاری می‌کنند. این می‌تواند شرکت‌های رقیب، از جمله Meta و xAI الون ماسک، را تحت همان چارچوب بررسی قرار دهد اگر مدل‌های آنها از آستانه قابلیت نهایی عبور کند.

این مذاکرات نشان‌دهنده یک هم‌راستایی نادر در سیاست بین OpenAI و Anthropic است. هر دو شرکت سیستم‌های AI عمومی را می‌فروشند و برای قراردادهای شرکتی، محققان، ظرفیت محاسباتی و سرمایه‌گذاری رقابت می‌کنند.

هیچ‌یک از شرکت‌ها به‌طور عمومی شرایط کامل مورد نظر خود را برای گنجاندن در چارچوب نهایی منتشر نکرده‌اند.

دستور ترامپ فرآیند 30 روزه داوطلبانه را تعیین می‌کند

رئیس‌جمهور دونالد ترامپ به آژانس‌های فدرال دستور داد تا یک فرآیند مرجع طبقه‌بندی‌شده از طریق دستور اجرایی 14409 در 2 ژوئن ایجاد کنند.

این دستور به آژانس امنیت ملی، آژانس امنیت سایبری و امنیت زیرساخت، وزارت خزانه‌داری و سایر نهادهای فدرال دستور می‌دهد تا تعیین کنند چه زمانی یک مدل AI قابلیت‌هایی دارد که نیاز به بررسی اضافی دارد.

توسعه‌دهندگانی که در چارچوب شرکت می‌کنند، می‌توانند از دولت بپرسند که آیا یک مدل به آستانه مدل پیشرفته تحت پوشش می‌رسد یا خیر. سپس می‌توانند به ارزیابان فدرال دسترسی برای حداکثر 30 روز قبل از در دسترس قرار دادن سیستم برای سایر شرکای تأیید شده ارائه دهند.

این دستور نیاز به تدابیر حفاظتی برای مالکیت معنوی، اطلاعات محرمانه، امنیت سایبری و تهدیدات داخلی در طول ارزیابی دارد.

با این حال، به‌طور صریح بیان می‌کند که این فرآیند نمی‌تواند قوانین مجوز فدرال، پیش‌تأیید یا مجوز برای توسعه یا انتشار مدل‌های AI ایجاد کند. بنابراین شرکت‌ها به‌طور داوطلبانه شرکت خواهند کرد مگر اینکه قوانین یا قدرت‌های دولتی جداگانه‌ای اعمال شود.

توسعه‌دهندگان AI در ایالات متحده قبل از راه‌اندازی به دنبال وضوح هستند

یک چارچوب مشترک می‌تواند به توسعه‌دهندگان آمریکایی استانداردهای واضح‌تری برای تصمیم‌گیری در مورد زمان انتظار آزمایش دولت بدهد. سؤالاتی در مورد اینکه کدام معیارهای فنی بررسی را تحریک می‌کند، کدام آژانس‌ها هر سیستم را آزمایش خواهند کرد و چگونه مقامات شرکای دسترسی زودهنگام را تأیید خواهند کرد، باقی مانده است.

این عدم قطعیت‌ها قبلاً بر راه‌اندازی‌های اخیر تأثیر گذاشته است. OpenAI و Anthropic به مقامات دولتی دسترسی زودهنگام به مدل‌های پیشرفته قبل از توزیع وسیع ارائه دادند، اما محققان خارجی دید محدودی به ارزیابی‌ها داشتند.

یک گزارش در ماه ژوئیه نشان داد که آژانس‌ها، آزمایش‌ها و الزامات تأیید درگیر در آن بررسی‌ها هنوز نامشخص باقی مانده است. عدم وجود یک فرآیند منتشر شده می‌تواند برنامه‌ریزی انتشار را برای توسعه‌دهندگان دشوارتر کند و شرکت‌های کوچک‌تر AI را در مورد اینکه آیا همان استانداردها برای آنها اعمال می‌شود یا خیر، ناامید کند.

اعمال یک آستانه مبتنی بر قابلیت برای OpenAI، Anthropic، Meta، xAI و سایر توسعه‌دهندگان می‌تواند برخی از آن عدم قطعیت‌ها را کاهش دهد. همچنین می‌تواند نگرانی‌ها را محدود کند که واشنگتن به شرکت‌های منتخب رفتار متفاوتی می‌دهد.

بحث درباره هوش مصنوعی با وزن باز صنعت را تقسیم می‌کند

فراخوان OpenAI و Anthropic برای یک فرآیند بررسی مشترک در حالی است که سایر شرکت‌های فناوری به واشنگتن هشدار می‌دهند که از اعمال کنترل‌های گسترده بر مدل‌های هوش مصنوعی با وزن باز خودداری کند.

همانطور که crypto.news هفته گذشته گزارش داد، Nvidia، Meta و Microsoft به ۲۲ سازمان دیگر در یک نامه باز پیوستند و استدلال کردند که محدودیت‌های گسترده می‌تواند رهبری ایالات متحده را تضعیف کند در حالی که رقابت با چین تشدید می‌شود. IBM، Palantir، Mistral، Hugging Face، Mozilla، Andreessen Horowitz و بنیاد لینوکس نیز این نامه را امضا کردند.

این گروه خواستار اقدام‌های قانونی و تجاری هدفمند علیه سوءاستفاده به جای محدودیت‌هایی است که شامل فناوری‌های دارای کاربردهای تحقیقاتی و تجاری مشروع می‌شود.

مدل‌های با وزن باز به شرکت‌ها، محققان و دولت‌ها اجازه می‌دهد نرم‌افزار را دانلود کرده، آن را تغییر دهند و بر روی زیرساخت‌های خود اجرا کنند. حامیان می‌گویند این به کاربران کنترل بیشتری بر داده‌ها، امنیت و سیستم‌های محاسباتی خود می‌دهد و در عین حال هزینه‌های استقرار را کاهش می‌دهد.

امضاکنندگان مدل‌های باز و بسته را به عنوان دو رویکرد متضاد مطرح نکردند. در عوض، آنها استدلال کردند که هر دو رویکرد برای حمایت از رقابت و ارائه روش‌های مختلف به توسعه‌دهندگان برای ساخت و استقرار سیستم‌های هوش مصنوعی لازم است.

مدیرعامل Nvidia، جنسن هوانگ، این نامه را در اولین پست خود در X به اشتراک گذاشت و از نقش هر دو مدل توسعه دفاع کرد.

"جهان به هر دو مدل بسته و باز مرزی نیاز دارد."

ایلان ماسک نیز در پاسخی به هوانگ از این نامه حمایت کرد، اگرچه شرکت هوش مصنوعی او، xAI، در میان ۲۵ امضاکننده گزارش شده نبود.

این دو تلاش به بخش‌های مختلف بحث سیاست می‌پردازند. OpenAI و Anthropic به دنبال ارزیابی‌های فدرال منسجم برای مدل‌هایی هستند که از آستانه قابلیت امنیت ملی عبور می‌کنند، در حالی که نامه باز علیه محدودیت‌ها بر اساس اینکه آیا یک مدل وزن‌های خود را در دسترس قرار می‌دهد یا نه، استدلال می‌کند.

سازمان‌های فدرال اکنون تا اول اوت فرصت دارند تا آستانه مدل مرزی را تعریف کرده و فرآیند بررسی داوطلبانه را ترسیم کنند. چارچوب نهایی نشان خواهد داد که آیا واشنگتن بر قابلیت‌های قابل اندازه‌گیری تمرکز می‌کند یا شرایط گسترده‌تری را بر اساس نحوه توزیع مدل‌های هوش مصنوعی اعمال می‌کند.