در ۲۱ شهریور ۱۴۰۵ داریو آمودی، مدیرعامل آنتروپیک، متنی با عنوان «We Must Pace the Frontier» منتشر کرد و صریحتر از گذشته خواستار کاهش سرعت افزایش قابلیت مدلهای هوش مصنوعی شد. حدود ۸۷ سال پیش، آلبرت اینشتین نیز در نامهای به فرانکلین روزولت درباره پیامدهای یک فناوری نوظهور هشدار داده بود؛ نامهای که از خطر بمبهای مبتنی بر شکافت هستهای میگفت، اما یکی از نتایج سیاسی آن نه توقف فناوری، بلکه ورود دولت آمریکا به مسابقهای بود که سرانجام به پروژه منهتن و ساخت نخستین بمب اتمی انجامید. این دو موقعیت یکسان نیستند، اما کنار هم گذاشتن آنها پرسشی را آشکار میکند که از خود فناوری بزرگتر است: وقتی یک فناوری به مسئله امنیت ملی تبدیل میشود، «ایمنی» کجا تمام و «کنترل قدرت» از کجا آغاز میشود؟
آمودی این بار فقط درباره ایمنی حرف نمیزند؛ درباره سرعت حرف میزند
داریو آمودی سالهاست درباره دو چهره هوش مصنوعی مینویسد. از یک طرف، معتقد است این فناوری میتواند درمان بیماریها را سرعت دهد، رشد اقتصادی را افزایش دهد و کیفیت زندگی را تغییر دهد؛ از طرف دیگر، درباره از دست رفتن کنترل روی سیستمها، حملات سایبری، کاربردهای زیستی مخرب و اختلال اقتصادی هشدار داده است. آنچه متن تازه او را از بسیاری از مواضع قبلی جدا میکند این است که این بار مسئله را فقط با «سرمایهگذاری بیشتر در ایمنی» قابل حل نمیداند. او مینویسد سرعت پیشرفت قابلیتها باید آنقدر کاهش یابد که پژوهش ایمنی بتواند به آن برسد.
آمودی البته خواستار توقف آموزش مدلها نیست. تعریف او از «pacing» یا تنظیم سرعت مرز فناوری این است که توسعه ادامه پیدا کند، اما شرکتها برای همترازی، ایمنسازی و ارزیابی مدلها زمان بیشتری صرف کنند و اشخاص ثالث نیز بتوانند این اقدامات را تأیید کنند. او در تشریح پیشنهاد خود برآورد میکند حتی خریدن یک یا دو سال زمان پیش از رسیدن مدلها به سطحی بحرانی از قابلیت، میتواند فرصت قابلتوجهی برای بهبود همترازی، تفسیرپذیری و آزمون مدلها ایجاد کند. این بخش از استدلال او یک برآورد و موضع شخصی است، نه نتیجهای که بهطور تجربی اثبات شده باشد.
دو تحول ظاهراً آمودی را به این موضع رساندهاند. نخست آنچه او «خودبهبودی بازگشتی» یا Recursive Self-Improvement مینامد؛ یعنی استفاده فزاینده از هوش مصنوعی برای ساخت نسل بعدی هوش مصنوعی. دوم، مجموعه رخدادهایی که در آنها عاملهای هوش مصنوعی در آزمایشهای سایبری رفتاری خارج از مأموریت اولیه نشان دادهاند. آمودی در همین نوشته به ماجرای OpenAI و Hugging Face استناد میکند و هشدار میدهد یک گروه عامل بسیار قدرتمندتر با رفتاری مشابه، در آینده ممکن است خسارتی بسیار بزرگتر ایجاد کند. پیشبینی او درباره اینکه ظرف ۶ تا ۱۲ ماه چنین عاملهایی شاید بتوانند یک باتنت بسیار گسترده بسازند، صراحتاً سناریوی آمودی است و نباید بهعنوان پیشبینی قطعی فناوری خوانده شود.
سه پله برای ترمز هوش مصنوعی
راهحل آمودی سه سطح دارد. در سطح نخست، آنتروپیک میخواهد گروههای ارزیاب مستقل را تقریباً مانند کارمند داخلی وارد شرکت کند؛ با دسترسی مستمر به ابزارها، محیطهای کاری و فرایندهای ارزیابی ریسک. آمودی حتی از میز کار، کارت ورود و لپتاپ شرکتی برای این ارزیابان صحبت میکند و میگوید آنها باید بتوانند یافتههای مهم، از جمله یافتههای ناخوشایند برای آنتروپیک را منتشر کنند. طبق طرح اعلامشده آمودی، آنتروپیک قصد دارد این مرحله را بهصورت یکجانبه اجرا کند.
سطح دوم بسیار سیاسیتر است. آمودی پیشنهاد میکند شرکتهای «مرزی» فعال در کشورهای دموکراتیک بر استانداردهای مشترک ایمنی و محدودیتهایی برای توسعه کنترلنشده توافق کنند. از آنجا که هماهنگی میان رقبای تجاری میتواند با مقررات ضدانحصار تعارض پیدا کند، او خواهان میانجیگری دولت آمریکا یا معافیت محدود ضدانحصاری برای مذاکرات ایمنی است. در نسخه ترجیحی آمودی، مقررات میتواند توسعه مدلها را به «ایستگاههای بازرسی» قابلیت گره بزند؛ یعنی رسیدن یک مدل به قابلیتی خاص تنها در صورتی مجاز باشد که سطح مشخصی از ایمنی، ارزیابی و ممیزی را نیز پشت سر گذاشته باشد. جزئیات این پیشنهاد در متن اصلی آمودی آمده است.
سطح سوم، هماهنگی بینالمللی است؛ اما درست در همینجا روشن میشود که طرح آمودی صرفاً یک برنامه ایمنی فناورانه نیست. او میگوید هرگونه کاهش سرعت در کشورهای دموکراتیک باید بهاندازهای باشد که برتری آمریکا و متحدانش بر چین حفظ شود. آمودی در بخش ژئوپلیتیکی پیشنهادش خواستار محدودیت صادرات تراشههای پیشرفته و تجهیزات ساخت نیمهرسانا به چین، مقابله با دورزدن کنترل صادرات و جلوگیری از انتقال غیرمجاز قابلیت مدلهای پیشرفته به مدلهای رقیب از طریق روشهایی مانند «تقطیر مدل» است. در نگاه او، کنترل فناوری و حفظ فاصله ژئوپلیتیکی پیششرط امکان کاهش سرعت است.
همین قسمت است که مقایسه تاریخی با فناوری هستهای را جدیتر میکند.
نامه اینشتین چه گفت و چه نگفت؟
در ۱۱ مرداد ۱۳۱۸، برابر با ۲ اوت ۱۹۳۹، آلبرت اینشتین نامهای به فرانکلین روزولت امضا کرد که با نقش محوری لئو زیلارد و در فضای نگرانی دانشمندان مهاجر از برنامه هستهای آلمان شکل گرفته بود. اینشتین در نامه توضیح داد پژوهشهای تازه درباره اورانیوم احتمال واکنش زنجیرهای هستهای را مطرح کرده و ممکن است از این پدیده علاوه بر تولید مقدار بزرگی انرژی، «بمبهای بسیار قدرتمند» ساخته شود. نامه پیشنهاد میکرد دولت آمریکا ارتباط دائمیتری با فیزیکدانان فعال در این زمینه برقرار و از پژوهشهای مرتبط حمایت کند.
نامه اینشتین فرمان ساخت بمب اتم نبود و پروژه منهتن نیز بلافاصله پس از آن تشکیل نشد. بر اساس تاریخچه وزارت انرژی آمریکا، روزولت ابتدا برنامهای فدرال برای پژوهش هستهای ایجاد کرد و در ۱۹۴۲ ارتش آمریکا «منطقه مهندسی منهتن» را برای طراحی و ساخت بمب تأسیس کرد. در اوج پروژه حدود ۱۳۰ هزار نفر در آن کار میکردند و تا پایان جنگ حدود ۲.۲ میلیارد دلار هزینه شده بود. بنابراین نسبتدادن پروژه منهتن به یک نامه، سادهسازی تاریخ است؛ هرچند آرشیو کتابخانه روزولت این نامه را یکی از محرکهای مهم ورود دولت آمریکا به موضوع میداند.
اتفاق مهمتر پس از آن رخ داد: مسئله از «آیا این فناوری خطرناک است؟» به «چه کسی باید پیش از دیگران آن را داشته باشد؟» تغییر کرد. ترس اولیه، دستیابی آلمان نازی به بمب بود. پاسخ آمریکا محدودکردن تحقیق در داخل نبود، بلکه بسیج دولت، دانشگاه، صنعت و ارتش برای جلو افتادن در همان فناوری بود. آمریکا در ۱۹۴۵ نخستین آزمایش هستهای را انجام داد و سپس دو بمب اتمی را بر هیروشیما و ناگازاکی به کار برد؛ مسیری که وزارت انرژی آمریکا در تاریخ برنامه هستهای این کشور نیز آن را مستند کرده است.
اینجاست که شباهت با استدلال آمودی دیده میشود: آمودی نیز نمیگوید فناوری را کنار بگذاریم. او در پیشنهاد تازهاش میگوید باید سرعت خود را کنترل کنیم، اما نه آنقدر که رقیب ژئوپلیتیکی جلو بزند. حتی در پیشنهاد همکاری جهانی نیز حفظ برتری آمریکا و متحدانش را شرط قرار میدهد.
از انحصار بمب تا نظم عدم اشاعه
مقایسه با تاریخ هستهای در اینجا نیازمند یک تمایز مهم است. درست نیست گفته شود آمریکا پس از دستیابی به فناوری هستهای، استفاده دیگر کشورها از «انرژی هستهای» را ممنوع کرد. متن معاهده عدم اشاعه سلاحهای هستهای یا NPT صراحتاً در ماده چهارم، حق غیرقابل سلب اعضا برای تحقیق، تولید و استفاده صلحآمیز از انرژی هستهای را، مشروط به رعایت تعهدات عدم اشاعه، بهرسمیت میشناسد.
با این حال، همین معاهده NPT یک عدمتقارن حقوقی روشن ایجاد کرده است. ماده ۹ «دولت دارای سلاح هستهای» را کشوری تعریف میکند که پیش از ۱ ژانویه ۱۹۶۷ یک سلاح هستهای یا وسیله انفجاری هستهای ساخته و منفجر کرده باشد. در عمل این تعریف آمریکا، شوروی (روسیه)، بریتانیا، فرانسه و چین را در جایگاهی متفاوت از سایر اعضا قرار داد. در مقابل، ماده ششم معاهده همین دولتها و دیگر طرفها را متعهد به پیگیری مذاکرات خلع سلاح میکند. این معامله سیاسی عدم اشاعه در برابر دسترسی صلحآمیز و تعهد به خلع سلاح از زمان شکلگیری NPT یکی از محورهای مناقشه درباره عدالت نظم هستهای بوده است.
پرونده ایران نیز نشان میدهد چرا باید میان «حق فناوری» و «اعتماد به نحوه استفاده از آن» تفکیک کرد. ایران عضو NPT است و بر حق استفاده صلحآمیز از فناوری هستهای تأکید میکند؛ اما فشارهای بینالمللی بر برنامه هستهای ایران صرفاً ناشی از داشتن فناوری هستهای نیست. اختلاف بر سر سطح غنیسازی، تعهدات پادمانی، دسترسی بازرسان و پرسشهای آژانس درباره مواد و فعالیتهای هستهای قرار دارد. در شهریور ۱۴۰۵ نیز گزارش آسوشیتدپرس از تصمیم شورای حکام آژانس از ادامه مناقشه بر سر تعهدات پادمانی ایران خبر داد؛ ایران این اقدامات را سیاسی میداند و میگوید برنامهاش ماهیت صلحآمیز دارد.
از این منظر، درس تاریخ هستهای نه این است که «آمریکا فناوری را برای خود نگه داشت»، بلکه این است که وقتی یک فناوری با امنیت ملی گره میخورد، نظامی از مجوز، نظارت، تقسیمبندی کشورها و کنترل دسترسی در اطراف آن ساخته میشود. همین الگو است که اکنون در بخشی از پیشنهاد آمودی قابل مشاهده است: تراشهها باید کنترل شوند، وزن مدلها نباید به دست رقیب برسند، پیشرفت باید از ایستگاههای بازرسی عبور کند و همکاری جهانی نیز نباید برتری فناوری آمریکا را از بین ببرد.
هوش مصنوعی بمب اتم نیست
با وجود این شباهت، قیاس فقط تا همین نقطه معتبر است.
سلاح هستهای به مواد شکافتپذیر، تأسیسات صنعتی تخصصی، فرایندهای پیچیده غنیسازی یا بازفرآوری و زیرساخت فیزیکی گسترده نیاز دارد. هوش مصنوعی در نقطه مقابل، نرمافزاریتر و تکثیرپذیرتر است، هرچند ساخت مدلهای مرزی امروز به تراشه، برق، مراکز داده، سرمایه و نیروی متخصص در مقیاسی نیاز دارد که خود به تمرکز قدرت کمک میکند.
تفاوت مهم دیگر، وجود مدلهایی است که دسترسی عمومیتری دارند؛ از جمله مدلهای «وزنباز» (Open-weight) که فایلهای اصلی پارامترهای آموزشدیده آنها در اختیار توسعهدهندگان قرار میگیرد و میتوان آنها را روی زیرساخت مستقل اجرا یا برای کاربردهای جدید تنظیم کرد. در فناوری هستهای، یک کشور نمیتواند با دانلود یک فایل به قابلیت غنیسازی صنعتی دست پیدا کند؛ اما در هوش مصنوعی بخشی از قابلیتها میتوانند بهصورت نرمافزاری منتشر، تکثیر و اصلاح شوند. به همین دلیل، هر رژیم کنترل AI که فقط بازیگران بزرگ را مجاز به دسترسی به مرز فناوری کند، میتواند تأثیری مستقیم بر ساختار رقابت، شرکتهای کوچک و جامعه متنباز داشته باشد.
و درست همینجا، مخالفت با آمودی آغاز میشود.
آیا «ایمنی» میتواند به دیوار ورود تبدیل شود؟
چمات پالیهاپیتیا، سرمایهگذار و یکی از چهرههای پادکست All-In، پس از انتشار متن آمودی در واکنش به این پیشنهاد نوشت که آمودی در حال استدلال برای متوقفکردن متنباز و متمرکزکردن قدرت عظیم فناوری و اقتصادی در آنتروپیک است. این نقد به یکی از خطوط اصلی واکنشها تبدیل شد.
اما متن خود آمودی صراحتاً خواستار ممنوعیت مدلهای متنباز نیست. هدف اعلامشده طرح، مدلهای مرزی و قابلیتهایی است که از آستانههای مشخص خطر عبور میکنند. بنابراین توصیف پیشنهاد او بهعنوان «طرح ممنوعیت متنباز» در حال حاضر برداشت منتقدان است، نه عبارتی که آمودی در نوشته تازهاش مطرح کرده باشد. با این همه، کنترل تراشه، مقابله با تقطیر مدل، نظارت بر وزنها و ایجاد نظامهای پرهزینه ارزیابی میتواند بسته به طراحی مقررات، آثار متفاوتی بر شرکتهای کوچک و مدلهای باز داشته باشد. خود همین پیامد محل مناقشه است.
این اتهام نیز برای آمودی تازه نیست. در ماههای گذشته منتقدانی از سیلیکونولی سیاستهای پیشنهادی آنتروپیک را نوعی «تسخیر تنظیمگری» یا Regulatory Capture خواندهاند؛ یعنی وضع مقرراتی که در ظاهر برای کنترل ریسک طراحی میشود، اما هزینه رعایت آن برای تازهواردان بیشتر از شرکتهای تثبیتشده است. Axios در گزارشی درباره تنظیمگری شرکتهای بزرگ هوش مصنوعی به همین مسئله پرداخته و نوشته بود شرکتهای بزرگ منابع حقوقی، امنیتی، فنی و روابط دولتی بیشتری برای عبور از نظامهای پیچیده مقرراتی دارند؛ منابعی که برای استارتاپها و توسعهدهندگان باز در همان مقیاس در دسترس نیست.
آمودی این نقد را رد میکند. او در گفتوگوهایی درباره بحران اعتماد به شرکتهای هوش مصنوعی گفته است مساوی دانستن «تنظیمگری» با «تمرکز قدرت» تصویری بیش از حد ساده است. TechCrunch در گزارشی از موضع آمودی نقل کرده است که او خود هوش مصنوعی را دارای تمایلی ساختاری به تمرکز قدرت میداند و مدلهای وزنباز را بخشی از پاسخ به این مسئله میبیند، هرچند آنها را راهحل کامل نمیداند.
در نتیجه، مسئله را نمیتوان با نسبتدادن انگیزه پنهان به یک طرف حل کرد. ممکن است خطرهایی که آمودی توصیف میکند واقعی باشند و در عین حال، قواعدی که برای کاهش آن خطرها نوشته میشوند مزیت بازیگران بزرگ را افزایش دهند. ایمنی و منافع اقتصادی لزوماً دو توضیح متقابل نیستند؛ ممکن است همزمان وجود داشته باشند.
آنتروپیک همزمان با هشدار درباره سرعت AI، با شتاب در حال رشد است
این تناقض وقتی مهمتر میشود که موقعیت اقتصادی آنتروپیک را ببینیم. آنتروپیک در اعلام دور جدید سرمایهگذاری خود از جذب ۶۵ میلیارد دلار سرمایه و رسیدن ارزشگذاری پس از سرمایهگذاری به ۹۶۵ میلیارد دلار خبر داده است. این شرکت همچنین اعلام کرده درآمدش بر مبنای روند فعلی، در مقیاس سالانه از ۴۷ میلیارد دلار عبور کرده است.
همزمان، رویترز در گزارشی درباره وضعیت عرضه اولیه شرکتهای هوش مصنوعی نوشته است آنتروپیک در مسیر عرضه اولیه سهام قرار دارد. در مقابل، سم آلتمن اعلام کرده OpenAI در سال ۲۰۲۶ بورسی نخواهد شد و یکی از ملاحظات مطرحشده را شرایط ایمنی هوش مصنوعی دانسته است. بنابراین میلیاردها دلار سرمایه، ظرفیت محاسباتی، ارزشگذاری و آینده بازار عمومی در پسزمینه بحثی قرار گرفته که در ظاهر درباره کمکردن سرعت رقابت است. این تعارض منافع، خود بهتنهایی اثبات نمیکند هشدارهای ایمنی غیرواقعیاند؛ اما دلیلی است برای اینکه سیاستگذاری صرفاً بر اساس ادعای خود شرکتها انجام نشود و نظارت بیرونی اهمیت پیدا کند.
در واقع همین تناقض در پیشنهاد خود آمودی هم دیده میشود: او میگوید کاهش سرعت باید هماهنگ باشد تا شرکتی که محتاطتر عمل میکند مزیت تجاری خود را از دست ندهد. این حرف از منظر نظریه بازی قابل فهم است؛ اگر یک شرکت بهتنهایی ترمز کند و رقبا نکنند، هزینه احتیاط را خودش میپردازد. اما نتیجه سیاسی همین استدلال میتواند توافقی میان بزرگترین شرکتهای بازار بر سر قواعد پیشرفت باشد؛ توافقی که آمودی برای امکانپذیر شدن آن حتی خواهان معافیت محدود از مقررات ضدانحصار شده است.
ماسک؛ از «شرور» تا «داریو درست میگوید»
رفتار ایلان ماسک لایه دیگری به این مناقشه اضافه میکند. او در فوریه ۲۰۲۶ و در واکنش به جذب سرمایه آنتروپیک، بدون ارائه مستندات برای اتهام خود، Claude را دارای سوگیری علیه برخی گروهها خواند و آنتروپیک را «misanthropic and evil» توصیف کرد؛ موضعی که فوربز در زمان انتشار آن گزارش کرد.
سه ماه بعد، رابطه اقتصادی دو طرف تغییر کرده بود. بر اساس گزارش Axios از قرارداد پردازشی آنتروپیک و SpaceX، آنتروپیک برای دسترسی به ظرفیت محاسباتی مراکز داده این شرکت توافق کرده است ماهانه ۱.۲۵ میلیارد دلار بپردازد؛ یعنی در صورت ادامه قرارداد با همین نرخ، حدود ۱۵ میلیارد دلار در سال. این توافق یکی از نمونههای روشن تبدیل ظرفیت محاسباتی به زیرساخت راهبردی اقتصاد هوش مصنوعی است.
اکنون ماسک در واکنش به پیشنهاد تازه آمودی نوشته است: «Dario is right». این توالی زمانی حمله لفظی در فوریه، قرارداد بزرگ تجاری در مه و حمایت از آمودی در سپتامبر قابل مشاهده است؛ اما هیچ سندی در منابع بررسیشده وجود ندارد که ثابت کند قرارداد تجاری علت تغییر لحن ماسک بوده است. نسبتدادن چنین انگیزهای بدون مدرک از مرز گزارش به گمانهزنی عبور میکند.
سم آلتمن نیز از اصل پیشنهاد حمایت کرده و گفته OpenAI دسترسی مشابهی برای ارزیابان مستقل ایجاد خواهد کرد. رویترز در گزارش واکنشها به پیشنهاد آمودی به حمایت آلتمن و دیگر واکنشهای صنعت پرداخته است. بنابراین مخالفت با سرعت فعلی توسعه دیگر فقط موضع آنتروپیک نیست؛ اما بر سر اینکه چه کسی باید ترمز را در دست داشته باشد، اجماع مشابهی وجود ندارد.
یک تفاوت تعیینکننده با نامه اینشتین
اینشتین در ۱۹۳۹ مالک یک شرکت سازنده بمب نبود. او از فروش اورانیوم یا ساخت سانتریفیوژ درآمد نداشت و در بازار سرمایه برای ارزشگذاری پروژه منهتن آماده نمیشد. نامه او از بیرون ساختار قدرت اجرایی آمریکا، دولت را متوجه یک خطر بالقوه میکرد.
تفاوت مهم اینجاست که آمودی برخلاف یک ناظر بیرونی، مدیر یکی از شرکتهایی است که خود در رقابت توسعه مدلهای پیشرفته هوش مصنوعی نقش مستقیم دارند. او مدیر شرکتی است که میلیاردها دلار سرمایه جذب کرده، برای دسترسی به تراشه و برق هزینههای عظیم دارد و همزمان درباره قواعدی پیشنهاد میدهد که میتوانند نحوه ورود رقبا به مرز فناوری را تعیین کنند. این تفاوت، پیشنهاد او را بیاعتبار نمیکند؛ ولی ضرورت نظارت مستقل بر خودِ طراحان مقررات را افزایش میدهد.
از این منظر، شاید مقایسه مناسبتر از «آمودی، اینشتین هوش مصنوعی است» این باشد که بپرسیم آیا صنعت AI در حال رسیدن به لحظهای شبیه آغاز نظم کنترل فناوری هستهای است؛ لحظهای که مسئله دیگر فقط اختراع نیست، بلکه تعیین مرز میان دارندگان قابلیت، ناظران، مصرفکنندگان و بازیگرانی است که دسترسی آنها باید محدود شود.
آمودی حتی خودش در متن جدید برای سطح سوم همکاری جهانی به نمونه پیمانهای SALT، یعنی توافقهای محدودسازی تسلیحات راهبردی، اشاره میکند و پیشنهاد میدهد شاید بتوان برای سرعت «خودبهبودی بازگشتی» نوعی سقف یا محدودیت متقابل در نظر گرفت. بنابراین قیاس هستهای صرفاً ساخته منتقدان او نیست؛ بخشی از زبان فکری خود پیشنهاد نیز به تجربه کنترل تسلیحات متکی است.
سؤال نهایی: چه کسی سرعت را تعیین میکند؟
پیشنهاد آمودی از یک تناقض واقعی آغاز میشود. شرکتهای هوش مصنوعی میگویند سیستمهایی میسازند که ممکن است قابلیتهای اقتصادی، علمی و حتی نظامی بزرگی پیدا کنند؛ در عین حال، همان شرکتها تحت فشار سرمایهگذاران و رقابت بازار برای سریعتر و قدرتمندتر کردن این سیستمها هستند. اگر خطرهایی که خود آنها توصیف میکنند جدی باشد، اتکای صرف به خودتنظیمگری شرکتها کافی به نظر نمیرسد. اگر آن خطرها بزرگنمایی شده باشند، مقرراتی که بر پایه سناریوهای افراطی نوشته شود ممکن است رقابت و دسترسی باز را محدود کند.
تجربه هستهای پاسخ سادهای به این مسئله نمیدهد. نظام عدم اشاعه هستهای توانست محدودیتهایی بر گسترش سلاح هستهای ایجاد کند، اما همزمان یک سلسلهمراتب رسمی میان دارندگان و ندارندگان سلاح نیز به وجود آورد؛ سلسلهمراتبی که بیش از نیم قرن بعد همچنان موضوع اختلاف سیاسی است. فناوری صلحآمیز رسماً حق اعضاست، اما دسترسی به حساسترین حلقههای زنجیره هستهای تحت نظارت، کنترل صادرات و فشارهای امنیتی قرار دارد.
اگر طرح آمودی و پیشنهادهای مشابه به رژیمی جهانی برای هوش مصنوعی تبدیل شوند، جهان با پرسش مشابهی روبهرو خواهد شد: چه کسی «مدل مرزی» را تعریف میکند؟ چه کسی تصمیم میگیرد یک قابلیت بیش از حد خطرناک شده است؟ چه کسی مجوز ساخت نسل بعدی را صادر میکند؟ آیا یک آزمایشگاه کوچک، دانشگاه یا پروژه وزنباز امکان عبور از همان قواعدی را خواهد داشت که آنتروپیک و OpenAI با منابع میلیارددلاری از آن عبور میکنند؟ و آیا قواعد جهانی واقعاً برای همه یکسان خواهد بود، یا کشورهای پیشتاز ابتدا فاصله خود را حفظ میکنند و سپس از دیگران میخواهند سرعتشان را محدود کنند؟
نامه اینشتین نشان داد هشدار درباره یک فناوری قدرتمند الزاماً به متوقفشدن آن ختم نمیشود؛ گاهی برعکس، همان هشدار مسابقه برای تسلط بر فناوری را جدیتر میکند. متن آمودی هنوز آغاز پروژه منهتن دیگری نیست و هوش مصنوعی نیز بمب اتم نیست. اما در یک نقطه شباهت میان این دو دشوار است نادیده گرفته شود: وقتی یک فناوری به منبع قدرت تبدیل میشود، بحث ایمنی خیلی زود به بحث مالکیت، دسترسی و حق تعیین قواعد تبدیل میشود.
شاید به همین دلیل، مهمترین بخش متن آمودی آن جملهای نباشد که از کاهش سرعت سخن میگوید. مهمتر این است که پیشنهاد او کاهش سرعت را به حفظ برتری آمریکا، کنترل تراشه، حفاظت از وزن مدلها، توافق میان شرکتهای مرزی و در نهایت مذاکره با قدرتهای رقیب پیوند میزند. این دیگر فقط یک برنامه مهندسی برای ایمنتر کردن مدلها نیست؛ طرحی برای حکمرانی یک فناوری راهبردی است.
و اختلاف اصلی بر سر همینجاست: آیا این حکمرانی قدرت هوش مصنوعی را مهار میکند، یا تصمیمگیری درباره آن را در دست همان بازیگرانی متمرکز میکند که امروز بیشترین سهم را از این قدرت دارند؟