آیا از باز کردن جعبه پاندورا می‌ترسید؟ مدل قدرتمندترین آنتروپیک هرگز نباید فاش شود

کدبیس OpenBSD دارای یک آسیب‌پذیری ۲۷ ساله است. یک آسیب‌پذیری ۱۶ ساله در FFmpeg وجود دارد که آن بخش کد بیش از ۵ میلیون بار قبل از کشف آن فراخوانی شده است. نهادهایی که این دو مورد را کشف کردند، محققان برتر در هیچ پلتفرم پاداش باگ نبودند و نه پروژه صفر گوگل. این آنتروپیک بود، مدلی که هنوز به‌طور عمومی منتشر نشده و با نام رمز کلود میتوس پیش‌نمایش شناخته می‌شود.

در تاریخ ۷ آوریل، آنتروپیک پروژه گلس‌وینگ را اعلام کرد. عمل خود به سادگی انجام شد: به اشتراک‌گذاری میتوس پیش‌نمایش با لیست سفید. این لیست شامل AWS، اپل، گوگل، مایکروسافت، انویدیا، برادکام، سیسکو، کراوداسترایک، جی‌پی‌مورگان چیس، بنیاد لینوکس، شبکه‌های پالو آلتو و حدود ۴۰ نهاد مسئول زیرساخت‌های حیاتی بود. کسانی که در این لیست نبودند، نمی‌توانستند به آن دسترسی پیدا کنند. آنتروپیک به‌طور صریح اعلام کرد که آنها برنامه‌ای برای انتشار عمومی این مدل در آینده نزدیک ندارند.

این اولین باری است که آزمایشگاه پیشرفته به‌طور فعال دارایی قوی‌ترین خود را قفل کرده است.

در دو سال گذشته، ریتم انتشار تقریباً واکنشی بوده است. هر جهش نسلی GPT، جمنای و کلود الگوی "انتشار، مشاهده، وصله" را دنبال کرده است. "سیاست مقیاس‌گذاری مسئولانه" (RSP) خود آنتروپیک اساساً یک چارچوب تعهد است: رسیدن به یک آستانه قابلیت خاص، اجرای تدابیر کاهش مربوطه و سپس ادامه انتشار. گلس‌وینگ گام بعدی در این چارچوب نیست بلکه اولین استثنا است. مدلی که خود آنتروپیک آن را "غیرقابل انتشار طبق فرآیند اصلی" دانسته، مشخص شده و تنها به نگهبانان داده شده است.

میتوس پیش‌نمایش چه دستاوردی داشته است؟ بیانیه رسمی به "هزاران آسیب‌پذیری روز صفر، که هر سیستم‌عامل و مرورگر اصلی را پوشش می‌دهد" اشاره می‌کند. بیشتر از اعداد، وسعت قابلیت‌ها قابل توجه است. مدل Claude 4.6 Opus در وظایفی مانند کشف مستقل آسیب‌پذیری، نرخ موفقیت نزدیک به صفر داشت. به عبارت دیگر، فقط شش ماه پیش، قوی‌ترین مدل عمومی Anthropic نمی‌توانست این کار را انجام دهد. Mythos می‌تواند چندین آسیب‌پذیری نامرتبط را به یک زنجیره حمله کامل متصل کند، که یک مثال اثبات‌شده، بهره‌برداری چهار مرحله‌ای از مرورگر است. انتقال از "تقریباً صفر" به "زنجیره چهار آسیب‌پذیری" یک پیشرفت تدریجی نسلی نیست بلکه یک جهش است.

نگهدارندگان قبلاً این را احساس کرده‌اند. هم گرگ کروآه-هارتمن از هسته لینوکس و هم دانیل استنبرگ، نویسنده curl، به تازگی همین را بیان کرده‌اند: در سال گذشته، گزارش‌های امنیتی تولیدشده توسط هوش مصنوعی از "سطح هرزنامه" به محتوای "واقعی، با کیفیت بالا و ضروری" منتقل شده‌اند. تعداد گزارش‌های دریافتی توسط پروژه‌های متن‌باز در حال افزایش است، همان‌طور که کیفیت آن‌ها نیز افزایش می‌یابد، در حالی که نیروی انسانی نگهدارندگان ثابت مانده است. این چیزی است که طرف دفاعی مدت‌هاست با آن دست و پنجه نرم می‌کند. اقدامات Anthropic به سادگی این مسئله را از اضطراب مبهم به جلو آورده است.

نگاهی به لیست سفید خود ارزش دارد. این لیست شامل سه ابرشرکت بزرگ (AWS، گوگل، مایکروسافت)، سه شرکت سخت‌افزاری (اپل، انویدیا، برادکام)، دو تولیدکننده تجهیزات شبکه (سیسکو، شبکه‌های پالو آلتو)، یک شرکت امنیت نقطه پایانی (CrowdStrike)، یک سازمان زیرساخت متن‌باز (بنیاد لینوکس) و یک بانک است. تنها یک بانک در این لیست وجود دارد که JPMorgan Chase است.

این تخصیص تصادفی نیست. Anthropic نقشه‌ای از "اگر این‌ها بیفتند، آسمان خواهد افتاد" ترسیم کرده است. اکثریت قریب به اتفاق کدهای جهان بر روی زیرساخت این شرکت‌ها اجرا می‌شود و اکثریت قریب به اتفاق پول‌های جهان از یکی از آن‌ها عبور می‌کند. منطق پشت لیست سفید این نیست که "چه کسی بیشتر به آن نیاز دارد" بلکه "سقوط چه کسی به‌طور فوری بر همه تأثیر خواهد گذاشت." خارج از لیست، Anthropic چهار میلیون دلار اضافی به سازمان‌های امنیتی متن‌باز اختصاص داده است. این پول نیروی انسانی را تأمین می‌کند، مدل قابلیت را فراهم می‌کند و در مجموع به یک چیز می‌رسد: دادن چند ماه به نگهدارندگان.

بیان خود آنتروپیک مستقیم‌تر از لیست سفید است. در بیانیه‌اش، شرکت می‌نویسد: "با توجه به سرعت توسعه هوش مصنوعی، این نوع قابلیت در درازمدت در دست کسانی که به استقرار امنیت اختصاص دارند، نخواهد ماند." در ادامه، خطی بیان می‌کند: "دفاع از زیرساخت‌های شبکه جهانی ممکن است چندین سال طول بکشد."

با ترکیب این دو جمله، آنتروپیک نتیجه‌گیری می‌کند که زمان قبل از نشت یا تکثیر مدل کوتاه است، در حالی که زمان برای مدافعان برای رفع آسیب‌پذیری‌ها طولانی است. تمام هدف گلاس‌وینگ در میان این دو تفاوت زمانی قرار دارد. با یک حرکت کنترل‌شده اولیه، آنها چند ماه تا یک سال زمان رفع آسیب‌پذیری را مبادله می‌کنند.

این موضوع بعدی بعدی ابعادی در واشنگتن دارد. آنتروپیک در حال برگزاری بحث‌های مداوم با دولت ایالات متحده در مورد قابلیت‌های پیش‌نمایش میتوس است. در عین حال، این شرکت با ایالات متحده یک اختلاف حل‌نشده دارد. وزارت دفاع در مورد دامنه استفاده از هوش مصنوعی نظامی. از یک سو، این شرکت از استفاده از مدل برای برخی مقاصد نظامی خودداری می‌کند، در حالی که از سوی دیگر، به‌طور فعال این مدل را با بنیاد لینوکس و تیم امنیتی اپل به اشتراک می‌گذارد. این دو عمل متناقض نیستند بلکه دو جنبه از یک قضاوت هستند. آنتروپیک در حال تعریف "این مدل برای چه چیزی می‌تواند استفاده شود" است، نه اینکه آن تعریف را به کاربران واگذار کند.

غیرمعمول‌ترین چیز در مورد گلاس‌وینگ این نیست که چه کاری انجام داد، بلکه این است که چه زمانی آن را انجام داد. در گذشته، شرکت‌های هوش مصنوعی خود را از طریق انتشارها ثابت کردند. اکنون، آنتروپیک انتخاب می‌کند که خود را از طریق "عدم انتشار" ثابت کند. یک آزمایشگاه پیشرفته به‌طور فعال قدرتمندترین محصول خود را قفل می‌کند، نه به دلیل دلایل تجاری، نه به دلیل اینکه هم‌راستایی انجام نشده، نه به دلیل الزامات نظارتی، بلکه به این دلیل که محاسبه کرده است که جدول زمانی باز نمی‌تواند با جدول زمانی رفع مشکل همگام شود.

آنچه در ماه‌های آینده باید به آن توجه کرد، نه خود پیش‌نمایش میتوس، بلکه تعداد آسیب‌پذیری‌هایی است که از حدود ۵۰ مؤسسه در لیست سفید که آن را اجرا کردند، رفع شده است. چیز بعدی که باید به آن توجه کرد این است که آیا آزمایشگاه‌های پیشرفته دیگر نیز همین کار را خواهند کرد. اگر این کار را انجام دهند، صنعتی که بر اساس ریتم "باز، تکراری، باز" عمل می‌کند، اولین حرکت "قفلش کن و بعد خواهیم دید" خود را خواهد دید. اگر آنها این کار را نکنند، آنتروپیک کسی خواهد بود که در درب ایستاده است. کلید را در دست گرفته و به ساعت نگاه می‌کند.