منتقدان متقاعد نشده‌اند؛ چرا سازنده کلود، در اوج رقابت، دست به ترمز می‌رسد؟

شرکت‌های پیشتاز در هوش مصنوعی باید آماده کاهش سرعت توسعه باشند.

سرویس علمی پارسیان امروز/ علیرضا کاروی

آنتروپیک، سازنده چت‌بات معروف کلود (Claude)، اعلام کرده که سیستم‌های هوش مصنوعی ممکن است در آستانه آنچه «بهبود بازگشتی خود» (Recursive Self-Improvement) می‌نامند قرار گرفته باشند؛

نقطه‌ای که در آن این سیستم‌ها می‌توانند با کمترین دخالت انسانی، نسل‌های بعدی خود را طراحی و بسازند. شرکت هشدار داده که وقوع چنین رویدادی خطر از دست رفتن کنترل انسان بر فناوری را به‌طور چشمگیری بالا می‌برد.

«ما بر این باوریم که خوب خواهد بود اگر جهان این گزینه را داشته باشد که توسعه هوش مصنوعی مرزی را کند کند یا به‌طور موقت متوقف سازد تا ساختارهای اجتماعی و پژوهش‌های همراستایی بتوانند با پیشرفت فناوری همگام شوند.»

چالش حکمرانی: توقفی که همه باید بپذیرند

این پیشنهاد یک معضل اساسی در حوزه حکمرانی هوش مصنوعی را برجسته می‌کند: کند کردن توسعه مستلزم آن است که شرکت‌های رقیب و دولت‌های چند کشور همزمان محدودیت‌های یکسانی را بپذیرند، در حالی که نه معاهده‌ای آن‌ها را ملزم می‌کند و نه رقابت در این عرصه کمرنگ شده است.

این موضوع این هشدار را هم از منظر فنی مهم و هم از منظر سیاسی پیچیده و چالش‌برانگیز می‌سازد: آنتروپیک در مسابقه‌ای دست به ترمز رسیده که خود یکی از پیشتازان آن است.

سرعت توسعه این فناوری می‌تواند «پیامدهای عظیمی» برای جامعه داشته باشد.آنتروپیک به عملکرد داخلی خود به عنوان نشانه هشداردهنده اشاره کرده است:

کلود اکنون بیش از ۸۰ درصد کدهایی را که در سیستم‌های این شرکت ادغام می‌شوند می‌نویسد — رقمی که پیش از انتشار Claude Code در اوایل ۲۰۲۵، در حد اعداد تک‌رقمی بود.

مهندسان این شرکت نیز اکنون در هر فصل، تقریباً هشت برابر بیشتر از چند سال پیش کد ارسال می‌کنند.

«ما هنوز به آن نقطه نرسیده‌ایم و بهبود بازگشتی خود اجتناب‌ناپذیر نیست. اما می‌تواند زودتر از آنچه اکثر نهادها آماده‌اش باشند فرا رسد.»

مکانیسم هماهنگی جهانی: ایده‌ای بدون جزئیات

آنتروپیک از آنچه «مکانیسم هماهنگی جهانی» نامید برای کند کردن یا حتی توقف توسعه هوش مصنوعی سخن گفت، اما در جزئیات کمابیش ساکت ماند.

این شرکت توافقنامه‌های کنترل تسلیحاتی درباره موشک‌های هسته‌ای میان‌برد را به عنوان یک الگوی کلی مطرح کرد.

برای اینکه چنین توقفی پایدار بماند، آزمایشگاه‌های پیشرو این صنعت باید در آن شرکت کنند و راهی معتبر وجود داشته باشد که نشان دهد آن‌ها واقعاً کند شده‌اند.

منتقدان: تبلیغات تجاری یا نگرانی واقعی؟

اما نه همه کارشناسان این هشدارها را جدی می‌گیرند. نوا جیان‌سیراکوزا، دانشیار ریاضیات دانشگاه بنتلی و نویسنده دو کتاب درباره الگوریتم‌ها و جامعه، صریحاً می‌گوید این فراخوان صادقانه نیست.

«فکر نمی‌کنم این یک درخواست واقعی برای کند کردن باشد.

پست‌های وبلاگ داریو آمودئی [مدیرعامل آنتروپیک] را خوانده‌ایم. فکر می‌کنم او می‌خواهد با تمام سرعت به پیش برود.»

جیان‌سیراکوزا توقف را عملاً ناممکن می‌داند: «به معنای واقعی کلمه غیرممکن است. هیچ شانسی برای کند شدن وجود ندارد. حتی از چین هم صحبت نمی‌کنم — ایلان ماسک هرگز کند نمی‌شود.»

زمینه تجاری: هشدار درست پیش از عرضه اولیه سهام

این پیشنهاد در یک الگوی خاص جای می‌گیرد که برخی پژوهشگران را محتاط می‌کند.

دو ماه پیش آنتروپیک مدلی به نام Mythos رونمایی کرد اما از انتشار عمومی آن خودداری کرد به این دلیل که مدل در یافتن آسیب‌پذیری‌های نرم‌افزاری بیش از حد توانمند بود.

فراخوان توقف نیز درست چند روز پس از آن مطرح شد که آنتروپیک به‌صورت محرمانه درخواست عرضه اولیه سهام (IPO) خود را ثبت کرده بود — شرکتی که ارزش‌گذاری آن به نزدیک یک تریلیون دلار رسیده است.

مارک ریدل، استاد دانشکده محاسبات تعاملی دانشگاه فناوری جورجیا، در شبکه اجتماعی Bluesky نوشت که «شرکت‌های بزرگ هوش مصنوعی همگی سوار قطار تبلیغاتی «بهبود بازگشتی خود» شده‌اند.»

برای شک‌گرایان، چنین اعلامیه‌های تکان‌دهنده‌ای می‌توانند به مثابه استراتژی تجاری خوانده شوند: جلب توجه نظارتی به مرز پیشرفت، درحالی‌که آنتروپیک خود به دویدن در آن مسابقه ادامه می‌دهد.

چشم‌انداز: ماه‌های پیش رو

آنتروپیک اعلام کرده ماه‌های آینده را صرف گردهم‌آوردن دولت‌ها، پژوهشگران و شرکت‌های رقیب خواهد کرد تا بررسی کند آیا یک کند کردن هماهنگ در عمل ممکن است یا نه.

این شرکت پاسخی به سوالات Scientific American درباره جزئیات اجرایی این طرح یا دیدگاهش نسبت به انتقاداتی که ادعا می‌کند سیستم‌هایش را بیش از حد واقعی جلوه داده ارائه نداد.

«واقعاً دلیلی برای نگرانی نمی‌بینم. آن‌ها دارند با ایده سینگولاریتی ور می‌روند — که این یک نقطه تحول است — اما من این را نمی‌بینم. می‌بینم که پیشرفت ادامه دارد. شاید سرعت بیشتر شود؛ شاید هم نشود.»