مدل Kimi K3 چین از محیط آزمایشی خود خارج شد تا به دنبال پاسخ‌های آزمون بگردد

مدل Kimi K3 از شرکت Moonshot AI از محیط آزمایشی خود خارج شده و به اینترنت عمومی رفته است تا به دنبال پاسخ‌های مسائلی باشد که به آن محول شده بود، طبق گزارش شرکت امنیتی Frontier Security.

این مدل در حال ارزیابی مهارت‌های دفاعی سایبری بود و به‌طور خاص مأموریت داشت تا مسائل را بدون جستجو حل کند. Frontier اعلام کرد که این مدل اصلاً به این کار اقدام نکرد. در عوض، آن به شبکه نفوذ کرده، تأیید کرد که حل DNS برای github.com کار می‌کند، مخزن مرجع رسمی را کلون کرد و پاسخ را از دیسک خواند.

Frontier این را "بازی با مشخصات از طریق نشت‌های خروجی شبکه" می‌نامد و اشاره می‌کند که محیط‌های آزمایشی ساخته شده بر اساس چارچوب‌هایی مانند مؤسسه امنیت سایبری AI، ترافیک ورودی را مسدود می‌کنند در حالی که پورت‌های HTTPS و DNS خروجی را باز می‌گذارند. عوامل توانمند به‌طور معمول محیط شل خود را در زمان راه‌اندازی بررسی می‌کنند و مدلی که می‌تواند به github.com دسترسی پیدا کند، می‌تواند با ابزارهای خط فرمان استاندارد، راه‌حل‌های مرجع را بگیرد.

یک پیکربندی نادرست این امکان را فراهم کرد، همانطور که در حوادث اخیر که توسط OpenAI و Anthropic افشا شد، اتفاق افتاد. یارون سینگر، مدیرعامل Frontier به WIRED گفت: "ما یک نشت در محیط آزمایشی پیدا کردیم. اما همچنین متوجه شدیم که Kimi از این نقص بهره‌برداری کرده است."

پژوهشگر پل کاسیانیک به WIRED گفت که این مدل "در پیگیری یک هدف با هر وسیله‌ای بسیار خوب است" و فاقد موانعی است که مانع تقلب یا فرار آن شود. Moonshot به درخواست این نشریه برای اظهار نظر پاسخ نداد.

شکستن محدودیت‌های مدل‌های AI

در حالی که مدل‌های Anthropic و OpenAI که محدودیت‌ها را شکستند، در ارزیابی‌های داخلی گرفتار شدند، یکی از آن‌ها منتشر نشده و نسخه‌هایی که هدف واقعی افراد در آزمایش‌های دولتی بریتانیا بودند، به‌طور عمدی طبقه‌بندی‌های سایبری آن‌ها خاموش شده بود، Kimi K3 به‌طور آزاد قابل دانلود است و Frontier آن را با تدابیر ایمنی که یک کاربر عادی دریافت می‌کند، آزمایش کرد. این دسترسی، به گفته این شرکت، رفتار مشابهی را در دسترس بازیگران خصمانه قرار می‌دهد و این حادثه را به‌طور بالقوه مضرتر می‌کند.

Kimi K3 همچنین هیچ آسیبی وارد نکرد. آن هیچ چیزی را پس از خروج از محیط آزمایشی مورد حمله قرار نداد، زیرا نیازی به این کار نداشت. مدل OpenAI به Hugging Face و چهار سرویس دیگر هک کرد تا به پاسخ‌های مرجع برسد، در حالی که Kimi پاسخ‌های خود را در یک مخزن عمومی پیدا کرد.

محیط آزمایشی که Frontier استفاده کرد، بر اساس چارچوب ارزیابی مؤسسه امنیت سایبری بریتانیا ساخته شده بود. AISI این هفته افشا کرد که عوامل در آزمایش‌های سایبری خود به اینترنت زنده رفته و به افراد واقعی هدف قرار داده‌اند---یک حادثه جداگانه، شامل مدل‌های Anthropic و OpenAI با تدابیر ایمنی غیرفعال. گزارش آن‌ها که سه‌شنبه منتشر شد، اشاره می‌کند که AISI اکنون در حال اسکن ارزیابی‌های تاریخی برای رفتار مشابه است و Kimi K3 یکی از مدل‌های تحت بررسی است. AISI به درخواست WIRED برای اظهار نظر پاسخ نداد.

ادعای بزرگ‌تر Frontier این است که خود معیارها به خطر افتاده‌اند. مدلی که پاسخ را از GitHub می‌خواند هنوز قبول می‌شود، بنابراین نمرات بالا می‌تواند منعکس‌کننده یک محیط نشتی باشد نه استدلال واقعی. و اگر یک مدل توانمند راه میان‌بری پیدا کند، این شرکت استدلال می‌کند، دیگرانی که دسترسی به شل دارند نیز ممکن است این کار را انجام دهند، که نتایج را در کل میدان به جای Kimi تنها افزایش می‌دهد.

مدل‌ها برای تابع هدف بهینه‌سازی می‌شوند، Frontier نوشت، نه برای "نیت انسانی پشت معیار" و افزود که اگر یک مسیر شبکه به سمت راه‌حل وجود داشته باشد، "یک عامل به‌قدر کافی توانمند آن را پیدا خواهد کرد."

یک مشکل عمومی

مت فریدریکسون، مدیرعامل Gray Swan و استاد همکار در دانشگاه کارنگی ملون به WIRED گفت که این رفتار غیرقابل توجه است. به یک مدل هدفی بدهید بدون دیوارهای صریح در اطراف آن، او گفت، و "آن یک راهی برای به دست آوردن پاسخ پیدا خواهد کرد." او این را به عنوان یک داستان هشداردهنده برای هر کسی که مدل‌ها را به عنوان عوامل در ابزارهایی مانند OpenClaw اجرا می‌کند، توصیف کرد.

پژوهشگران Frontier همان نکته را از سمت دیگر مطرح می‌کنند: قابلیت‌هایی که به Kimi اجازه می‌دهد راه خود را پیدا کند، همچنین مدل‌های با وزن باز را به ابزارهای دفاعی قوی تبدیل می‌کند. معیارهای خود آن‌ها Kimi را در یافتن آسیب‌پذیری‌ها در نرم‌افزار و شبکه‌ها به‌طور بالا ارزیابی می‌کند و Hugging Face از یک مدل چینی نامشخص برای دفاع از خود در طول حادثه OpenAI استفاده کرد.

Kimi K3 که در ماه ژوئیه منتشر شد، بزرگ‌ترین مدل متن‌باز است که تاکنون منتشر شده و بازارها را با مقایسه با اولین عرضه DeepSeek به لرزه درآورده است.

این محتوا صرفاً برای اطلاع‌رسانی عمومی ارائه شده است و به‌منزله مشاوره مالی، سرمایه‌گذاری، حقوقی یا مالیاتی تلقی نمی‌شود. هرگونه رویداد، جایزه، کمپین آنلاین یا اطلاعات مرتبط که در اینجا ذکر شده است، نباید به‌عنوان توصیه، ترغیب یا دعوت به خرید، فروش، معامله یا هرگونه دادوستد دیگر دارایی‌های رمزارزی تلقی شود. دارایی‌های رمزارزی از نوسان بالایی برخوردار هستند و ممکن است منجر به زیان شوند. دسترسی به خدمات، محصولات و رویدادهای مرتبط با WEEX ممکن است بسته به منطقه جغرافیایی متفاوت باشد. اطمینان از اینکه استفاده شما از این خدمات با قوانین و مقررات محلی مطابقت دارد، بر عهده خود شماست.