آنتروپیک ارائه دو مدل پیشرفته هوش مصنوعی خود را متوقف کرد
دستور کنترل صادرات با استناد به نگرانیهای مرتبط با امنیت ملی، دسترسی «اتباع خارجی» را، چه در داخل و چه خارج از آمریکا، ممنوع کرده است.
دستور کنترل صادرات با استناد به نگرانیهای مرتبط با امنیت ملی، دسترسی «اتباع خارجی» را، چه در داخل و چه خارج از آمریکا، ممنوع کرده است.
شرکت آنتروپیک، سازنده دستیار هوش مصنوعی «کلود» (Claude)، جمعه ۲۲ خرداد اعلام کرد به دنبال دریافت یک دستور کنترل صادرات از دولت آمریکا، دسترسی به دو مدل پیشرفته خود، «فِیبل ۵» (Fable 5) و «مایتوس ۵» (Mythos 5)، را «برای همه کاربران» قطع کرده است.
این دستور با استناد به «اختیارات امنیت ملی» صادر شده و دسترسی هر «تبعه خارجی» را، چه داخل و چه خارج از خاک آمریکا و حتی کارکنان خارجیتبار خود آنتروپیک، ممنوع میکند.
آنتروپیک گفت این دستور را ساعت ۵:۲۱ بعدازظهر به وقت شرق آمریکا دریافت کرده است. از آنجا که شرکت نمیتواند بهصورت لحظهای کاربران خارجی را از دیگران جدا کند، ناچار شده هر دو مدل را برای تمام مشتریان غیرفعال کند.
دسترسی به سایر مدلهای این شرکت، از جمله Opus، بدون تغییر باقی مانده است.
بنا بر گزارش اکسیوس و والاستریت ژورنال، نامه این دستور را هاوارد لاتنیک، وزیر بازرگانی آمریکا، خطاب به داریو آمودی، مدیرعامل آنتروپیک، فرستاده و با همکاری اداره صنعت و امنیت این وزارتخانه، تنظیم شده است.
متن نامه جزییات دقیق نگرانی امنیتی را مشخص نکرده، اما به گفته یک مقام دولتی، واشینگتن پس از آن که شرکتی دیگر مدعی شد توانسته سازوکارهای ایمنی مایتوس را دور بزند («جیلبریک» کند)، نگران خطرهای امنیت ملی شده است.
همان مقام افزود دولت پیشتر کوشیده بود آنتروپیک را به تعویق عرضه این مدلها متقاعد کند و پس از ناکامی، نامه «کنترل صادرات» را صادر کرد.
آنتروپیک با این تصمیم مخالفت کرده، اما گفته است از آن تبعیت میکند.
به گفته این شرکت، روش افشاشده یک «جیلبریک محدود» است؛ در عمل یعنی درخواست از مدل برای خواندن یک کد و رفع ایرادهای آن؛ آسیبپذیریهایی جزیی و از پیششناختهشده که مدلهای عمومی دیگر، از جمله GPT-5.5 شرکت OpenAI، نیز قادر به یافتنشان هستند.
آنتروپیک تاکید کرد فِیبل ۵ با تدابیر حفاظتیای بهمراتب قویتر از هر مدل پیشین عرضه شده و پیش از انتشار، هزاران ساعت با همکاری دولت آمریکا، موسسه ایمنی هوش مصنوعی بریتانیا و گروههای مستقل آزموده شده است.
این شرکت ممانعت از دسترسی برای یک مدل تجاری در دسترس صدها میلیون کاربر را بهخاطر یک آسیبپذیری محدود «نامتناسب» خواند و هشدار داد اگر چنین معیاری به کل صنعت تعمیم یابد، عملا عرضه هر مدل پیشرفتهای متوقف خواهد شد.
این دستور، تنها سه روز پس از رونمایی فِیبل ۵ و مایتوس ۵ صادر شد. مدلهایی که آنتروپیک آنها را قدرتمندترین سامانههای خود معرفی کرده بود. هر دو بر یک بنیان فنی ساخته شدهاند، اما تنها فِیبل ۵ با محدودیتهای سختگیرانه، بهویژه در حوزههای امنیت سایبری و زیستشناسی، برای عموم منتشر شد؛ مایتوس ۵ بدون این محدودیتها و تنها در اختیار شماری از شرکای مورد اعتماد، از جمله شرکتهای امنیت سایبری و زیرساخت، قرار گرفت.
این دو ادامه «مایتوس پریویو» هستند. مدلی که بهار امسال با تواناییهای پیشرفته سایبری توجه والاستریت و مقامهای دولتی را جلب کرد و در چارچوب طرحی به نام «گلَسوینگ» میان گروهی محدود توزیع شد.
اما اهمیت این ماجرا فراتر از یک مدل و یک شرکت است: این نخستین بار است که واشینگتن از اهرم کنترل صادرات در مورد یک مدل تجاری پیشرفته استفاده میکند. این وضعیت نشان میدهد سرنوشت یک مدل را میتوان نه با تصمیم سازنده، بلکه با دستور دولت رقم زد.
چارچوب «ملیتمحور» این محدودیت نیز کاربران و شرکتهای غیرآمریکایی را مستقیم هدف میگیرد.
آنتروپیک میگوید توقف عرضههای ناایمن توسط دولت را میپذیرد، اما در چارچوب فرایندی قانونی، شفاف و مبتنی بر واقعیتهای فنی. اقدامی که به گفته این شرکت با چنین معیارهایی نخوانده است.
آنتروپیک این ماجرا را «سوءتفاهم» خوانده و گفته است طی ۲۴ ساعت آینده جزییات فنی بیشتری منتشر میکند و در تلاش برای بازگرداندن دسترسی است، هرچند زمان مشخصی برای آن اعلام نکرده است.
بر اساس پژوهشی که از سوی انجمن علوم اعصاب آمریکا منتشر شد، مغز انسان بهطور مداوم اطلاعاتی مانند تصاویر، صداها و فضاهای آشنا را با پیامدهای بعدی آنها پیوند میدهد.
این فرآیند که «یادگیری تداعیگر» نام دارد، به افراد کمک میکند بر پایه تجربههای قبلی، سریعتر تصمیم بگیرند و از خطر دوری کنند.
با این حال، پژوهشگران میگویند این سیستم در همه افراد به یک شکل عمل نمیکند.
این تحقیق توضیح میدهد که چگونه سازوکارهای طبیعی یادگیری در مغز، در بعضی افراد بهجای کمک به تصمیمگیری بهتر، به تداوم انتخابهای نامطلوب منجر میشود.
نقش نشانهها در تصمیمگیری نادرست
به گفته جوزپه دی پلگرینو، سرپرست این مطالعه از دانشگاه بولونیا، افراد از نظر میزان اتکا به نشانههای محیطی برای تصمیمگیری تفاوت چشمگیری با یکدیگر دارند.
برخی افراد هنگام تصمیمگیری بهشدت به تصاویر و صداهای اطراف خود وابستهاند، در حالی که گروهی دیگر انعطافپذیری بیشتری دارند و کمتر تحت تاثیر این محرکها قرار میگیرند.
به گفته پژوهشگران، مشکل زمانی بروز میکند که معنای این نشانهها دستخوش تغییر میشود.
برای نمونه، اگر یک محیط یا صدای آشنا که پیشتر با پاداش همراه بوده، بهتدریج به پیامدهای پرخطر یا نامطلوب منجر شود، مغز همه افراد نمیتواند این تغییر را بهدرستی ثبت کند.
در افرادی که حساسیت بالایی به نشانهها دارند، مغز در «بهروزرسانی» این آموختهها ناتوان میماند و همچنان بر اساس الگوهای قدیمی واکنش نشان میدهد.
در نتیجه این افراد، حتی پس از تجربه شکست یا زیان، همان انتخابهای قبلی را تکرار میکنند.
پیوند نشانهها با اعتیاد و اضطراب
در این شرایط، نشانههای محیطی بهجای آنکه راهنمایی مفید باشند، به عامل اصلی هدایت رفتار تبدیل میشوند و ترک عادتهای زیانبار را دشوارتر میکنند.
این یافتهها میتواند به درک بهتر الگوهای رفتاری در اعتیاد، اختلالات وسواسی و اضطراب کمک کند.
تیم تحقیقاتی قصد دارد این نوع الگوی یادگیری را در میان افراد دارای اختلالات بالینی مورد بررسی قرار دهد.
هدف آنها یافتن پاسخ روشنتری برای این پرسش است که آیا حساسیت بیش از حد به نشانههای محیطی میتواند یکی از دلایل اصلی تداوم الگوی تصمیمگیریهای پرخطر در این گروهها باشد.
