در چند روز گذشته، شماری از افرادی که قرار است از هوش مصنوعی درآمد بسیار زیادی به دست آورند، علناً بر سر یک موضوع به توافق رسیدهاند: پیش از آنکه کنترل اوضاع از دست برود، زمان آن رسیده که همه سرعت خود را کاهش دهند. سم آلتمن، مدیرعامل OpenAI؛ داریو آمودی، مدیرعامل Anthropic؛ دمیس هسابیس، همبنیانگذار Google DeepMind؛ ساتیا نادلا، مدیرعامل مایکروسافت؛ و ایلان ماسک، مدیرعامل X، ازجمله این افراد هستند.
وقتی کسانی که از یک فناوری سود میبرند اعلام میکنند همان فناوری خطرناک است و باید تحت تنظیمگری قرار گیرد، همیشه دلایلی برای تردید وجود دارد. بااینحال، انگیزه آنها هرچه باشد، این نخستین بار نیست که چهرههای برجسته حوزه هوش مصنوعی زنگ خطر را به صدا درمیآورند.
بخوانید: چه کسی مالک آینده فناوریهای پرقدرت میشود؟
نظریه تکامل چارلز داروین در سال ۱۸۶۳، ساموئل باتلر، نویسنده بریتانیایی، را به این فکر انداخت که درباره جایگزینشدن انسانها با ماشینهای هوشمند خودتکثیرشونده هشدار دهد. او در کتاب Erewhon که در سال ۱۸۷۲ منتشر شد، جامعهای خیالی را توصیف میکند که برای جلوگیری از فروپاشی بشریت، ماشینها را چنان تنظیمگری کرده که عملاً از میان رفتهاند.
آلن تورینگ، پیشگام علوم رایانه، نیز در سخنرانی مشهور خود در سال ۱۹۵۱ هشدار داده بود هوش مصنوعی با «مخالفتهای زیادی» روبهرو خواهد شد؛ زیرا ماشینهایی که نمیمیرند «زمان زیادی نیاز ندارند تا از تواناییهای ناچیز ما پیشی بگیرند» و در نهایت «کنترل را در دست خواهند گرفت».
بخوانید: نویسنده کتاب موج آینده میگوید فناوری باید در خدمت انسان بماند
درخواست برای مداخله نیز موضوع تازهای نیست. بیل جوی، همبنیانگذار و دانشمند ارشد سان مایکروسیستمز، در سال ۲۰۰۰ نوشت رباتهای خودتکثیرشونده ممکن است حتی از سلاحهای هستهای خطرناکتر باشند؛ بخشی از نگرانی او به این دلیل بود که این فناوریها برخلاف پروژههای دولتیِ بهشدت کنترلشده، «درون نظام اکنون بیرقیب سرمایهداری جهانی» توسعه پیدا میکنند.
در سال ۲۰۰۹ نیز اریک هورویتز، پژوهشگر مایکروسافت که امروز مدیر ارشد علمی این شرکت است، تعدادی از پژوهشگران برجسته هوش مصنوعی را گرد هم آورد تا درباره ایجاد سیاستهایی گفتوگو کنند که بتواند رفتار سامانههای خودمختار و نیمهخودمختار را برای پاسخدادن به نگرانیهای موجود محدود یا جهتدهی کند.
اما اینکه بزرگان صنعت مدرن هوش مصنوعی خواستار کنترل سرمایهگذاریها و فناوریهای خودشان شوند، روند جدیدتری است؛ روندی که به نظر میرسد یکی از نخستین چهرههای اصلی آن ایلان ماسک بوده؛ کسی که زودتر از بسیاری دیگر در این حوزه سرمایهگذاری کرده بود.
ژوئیه ۲۰۱۷؛ ایلان ماسک: باید پیش از آنکه هوش مصنوعی برای بشریت خطرناک شود آن را تنظیمگری کنیم
زمانی که ایلان ماسک در جمع فرمانداران ایالتهای آمریکا گفت باید هرچه سریعتر هوش مصنوعی را تنظیمگری کرد، مدیرعامل اسپیسایکس و تسلا خودش مدتها بود منافع مستقیمی در این حوزه داشت. او پیشتر ۳۸ میلیون دلار در OpenAI سرمایهگذاری کرده و در دستکم دو شرکت دیگر فعال در حوزه هوش مصنوعی نیز سهام داشت. ماسک در آن مقطع سه سال بود که بهطور عمومی درباره خطرهای هوش مصنوعی صحبت میکرد.
در ژوئن ۲۰۱۴، او گفته بود پژوهشهای هوش مصنوعی ممکن است به ساخت یک «ترمیناتور واقعی» منجر شود. دو ماه بعد، هوش مصنوعی را «احتمالاً خطرناکتر از سلاحهای هستهای» توصیف کرد و در اکتبر همان سال، کار روی هوش مصنوعی را به «احضار شیطان» تشبیه کرد.
ماسک در ژانویه ۲۰۱۵ به استیون هاوکینگ پیوست و نامهای سرگشاده را امضا کرد که خواستار پژوهش مسئولانه در حوزه هوش مصنوعی بود. هاوکینگ پیشتر هشدار داده بود توسعه هوش مصنوعی ممکن است آخرین کاری باشد که انسانها انجام میدهند.
ماسک در نشست تابستانی انجمن ملی فرمانداران آمریکا در ژوئیه ۲۰۱۷ گفت: «هوش مصنوعی یکی از موارد نادری است که در آن باید در تنظیمگری پیشدستانه عمل کنیم، نه واکنشی. چون فکر میکنم وقتی به مرحلهای برسیم که بخواهیم بهصورت واکنشی هوش مصنوعی را تنظیمگری کنیم، دیگر خیلی دیر شده است.»
او در مارس ۲۰۱۸ نیز گفت: «هوش مصنوعی بسیار خطرناکتر از سلاحهای هستهای است. پس چرا هیچ نظارت مقرراتی بر آن نداریم؟»
مارس ۲۰۱۸؛ مارک زاکربرگ: واقعاً مطمئن نیستم که نباید تحت تنظیمگری قرار بگیریم
پس از رسوایی کمبریج آنالیتیکا و فیسبوک، مارک زاکربرگ، بنیانگذار متا، گفت شاید شرکتش باید تحت تنظیمگری قرار گیرد؛ البته به شرط آنکه مقررات «درست» باشند.
بخش اصلی صحبتهای او در آن مقطع درباره هوش مصنوعی نبود، اما زاکربرگ به این موضوع نیز اشاره کرد:
حالا که طی پنج تا ۱۰ سال آینده و با بهترشدن ابزارهای هوش مصنوعی، شرکتها بیشازپیش قادر خواهند بود بهطور پیشدستانه تشخیص دهند چه محتوایی ممکن است توهینآمیز باشد یا قوانین را نقض کند، مسئولیت شرکتها در انجام این کار چیست و از نظر قانونی چه مسئولیتی بر عهده آنها قرار میگیرد؟
او در مارس ۲۰۱۹ نیز گفت اینترنت به «نقش فعالتر» نهادهای تنظیمگر نیاز دارد.
دسامبر ۲۰۱۸؛ مایکروسافت درباره فناوری تشخیص چهره زنگ خطر را به صدا درمیآورد
در اوایل سال ۲۰۱۸، مایکروسافت بهدلیل همکاری با اداره مهاجرت و گمرک آمریکا (ICE) در زمینه فناوریهای تشخیص چهره با انتقادهایی روبهرو شد؛ آن هم در دورهای که شماری از مدیران شرکتهای فناوری سیاست دولت دونالد ترامپ درباره جداکردن کودکان از والدینی را که هنگام عبور از مرز آمریکا بازداشت میشدند، محکوم کرده بودند.
هرچند این شکل از هوش مصنوعی دقیقاً همان هوش خودتکثیرشونده نیست، برد اسمیت، رئیس مایکروسافت، در سخنرانی خود در مؤسسه بروکینگز از ضرورت ورود دولتها به تنظیمگری سخن گفت:
ما معتقدیم مهم است که دولتها در سال ۲۰۱۹ تصویب قوانینی برای تنظیمگری این فناوری را آغاز کنند… باور داریم تنها راه جلوگیری از این مسابقه به سمت پایین، ایجاد یک حداقل مسئولیتپذیری است که از رقابت سالم در بازار حمایت کند. و ایجاد چنین حداقلی مستلزم آن است که مطمئن شویم این فناوری و سازمانهایی که آن را توسعه میدهند و استفاده میکنند، تابع حاکمیت قانون هستند.
ژانویه ۲۰۲۰؛ ساندار پیچای: هیچ تردیدی وجود ندارد که هوش مصنوعی باید تنظیمگری شود
ساندار پیچای، مدیرعامل آلفابت، در یادداشتی برای فایننشال تایمز نوشت: «در ذهن من هیچ تردیدی وجود ندارد که هوش مصنوعی باید تنظیمگری شود. این فناوری بیش از آن مهم است که بدون تنظیمگری باقی بماند. تنها پرسش این است که چگونه باید به این مسئله پرداخت.»
او افزود: «شرکتهایی مانند ما نمیتوانند صرفاً فناوریهای جدید و امیدبخش بسازند و بعد اجازه دهند نیروهای بازار تعیین کنند که این فناوریها چگونه مورد استفاده قرار میگیرند.»
مانند موضع مایکروسافت در یک سال قبل، این اظهارات نیز تا حد زیادی در فضای نگرانیهای ایجادشده درباره کاربرد هوش مصنوعی در فناوری تشخیص چهره مطرح شد.
مارس ۲۰۲۳؛ ایلان ماسک و پژوهشگران برجسته هوش مصنوعی خواستار توقف «آزمایشهای عظیم هوش مصنوعی» میشوند
در سال ۲۰۲۳ و همزمان با آنکه تب هوش مصنوعی مولد در حال تغییر شکل کل صنعت فناوری بود، شماری از دانشمندان پیشنهاد کردند شرکتها سرعت پژوهشهای خود را کاهش دهند؛ در غیر این صورت دولتها باید وارد عمل شوند.
در نامهای که مؤسسه غیرانتفاعی Future of Life Institute منتشر کرد و ماسک نیز یکی از امضاکنندگان آن بود، آمده بود: «اگر چنین توقفی نتواند بهسرعت اجرا شود، دولتها باید وارد عمل شوند و یک توقف موقت برقرار کنند.»
دو هفته بعد، ماسک اعلام کرد شرکت هوش مصنوعی جدید خودش را راهاندازی کرده است. ورج در ادامه گزارش مینویسد دو سال بعد، ماسک با نقشآفرینی در DOGE به کاهش بخشهایی از نیروی کار دولت فدرال پرداخت، نه به پیشبرد تنظیمگری هوش مصنوعی. این توصیف، ارزیابی نویسنده گزارش ورج است.
۱۶ مه ۲۰۲۳؛ سم آلتمن از کنگره میخواهد هوش مصنوعی را تنظیمگری کند
سم آلتمن، مدیرعامل OpenAI، در مجموعهای از جلسات استماع درباره هوش مصنوعی در سنای آمریکا حاضر شد و با این ایده موافقت کرد که کنگره نهادی جدید برای تنظیمگری هوش مصنوعی ایجاد کند.
او گفت: «ما معتقدیم مزایای ابزارهایی که تاکنون عرضه کردهایم بسیار بیشتر از خطرهای آنهاست. بااینحال، فکر میکنیم مداخله مقرراتی دولتها برای کاهش خطرهای مدلهایی که روزبهروز قدرتمندتر میشوند، ضروری خواهد بود.»
در جلسهای دیگر در ۲۵ مه، مدیرعامل Anthropic نیز به سناتورهای آمریکایی هشدار داد هوش مصنوعی میتواند در ساخت سلاحهای زیستی مورد استفاده قرار گیرد.
۲۵ مه ۲۰۲۳؛ برد اسمیت پنج پیشنهاد مایکروسافت برای سیاستگذاری و تنظیمگری هوش مصنوعی را تشریح میکند
هنگامی که مدیرعامل OpenAI در کنگره حضور پیدا کرد، ورج همان زمان نوشته بود لحن جلسه دوستانه بود و به نظر میرسید قانونگذاران و مدیران صنعت در تلاشاند در کنار یکدیگر به قانونگذاری شکل دهند. مایکروسافت نیز نمونه دیگری از تلاش شرکتهای فناوری برای اثرگذاری بر شکل مقررات آینده ارائه کرد.
یکی از پیشنهادهای مایکروسافت چنین بود:
قوانین جدید، اپراتورهای این سامانهها را ملزم میکنند ترمزهای ایمنی را از ابتدا در طراحی سامانههای پرخطر هوش مصنوعی قرار دهند. دولت نیز سپس باید اطمینان حاصل کند که اپراتورها سامانههای پرخطر را بهطور منظم آزمایش میکنند تا مشخص شود اقدامات ایمنی آنها مؤثر است.
۳۰ مه ۲۰۲۳؛ پژوهشگران و مدیران ارشد هوش مصنوعی درباره «خطر انقراض» هشدار میدهند
شماری از پژوهشگران و مدیران برجسته هوش مصنوعی بیانیهای بسیار کوتاه منتشر کردند:
کاهش خطر انقراض ناشی از هوش مصنوعی باید در کنار دیگر خطرهای اجتماعی در مقیاس جهانی، مانند همهگیریها و جنگ هستهای، به یک اولویت جهانی تبدیل شود.
این بیانیه صراحتاً از دولتها نمیخواست وارد عمل شوند، اما به نوشته ورج، دشوار بود تصور کنیم رهبران جهان پس از چنین هشداری بیش از قبل نسبت به مسئله حساس نشوند.
سم آلتمن، مدیرعامل OpenAI، و دمیس هسابیس، مدیرعامل وقت Google DeepMind، از امضاکنندگان این بیانیه بودند.
سپتامبر ۲۰۲۳؛ مارک زاکربرگ خواستار «همکاری همه» در تنظیمگری میشود
در نشستی خصوصی در سنا که رسانهها و عموم مردم امکان حضور در آن را نداشتند، مدیران شرکتهای فناوری ظاهراً بر سر این موضوع توافق داشتند که صنعت هوش مصنوعی به تنظیمگری نیاز دارد.
بااینحال بخشی از اظهارات مطرحشده در آن جلسه خصوصی نماند. مارک زاکربرگ، مدیرعامل متا، گفت: «کنگره باید برای حمایت از نوآوری و ایجاد سازوکارهای حفاظتی، با موضوع هوش مصنوعی درگیر شود.»
او افزود: «ما معتقدیم سیاستگذاران، دانشگاهیان، جامعه مدنی و صنعت باید همگی با یکدیگر همکاری کنند تا خطرهای بالقوه این فناوری جدید را به حداقل برسانند و درعینحال مزایای بالقوه آن را به حداکثر برسانند.»
از ژوئیه ۲۰۲۳ تا مه ۲۰۲۴، شرکتهای فناوری مجموعهای از توافقهای غیرالزامآور با دولتها امضا کردند که قرار بود تا حدی آنها را تحت کنترل نگه دارد:
- ژوئیه ۲۰۲۳: متا، گوگل و OpenAI به کاخ سفید وعده دادند هوش مصنوعی را مسئولانه توسعه دهند.
- سپتامبر ۲۰۲۳: شرکتهای بیشتری به توافق کاخ سفید درباره ایمنی هوش مصنوعی پیوستند.
- نوامبر ۲۰۲۳: در اجلاس هوش مصنوعی بریتانیا، توسعهدهندگان و دولتها بر انجام آزمایشهایی برای مدیریت بهتر خطرها توافق کردند.
- مه ۲۰۲۴: در اجلاس هوش مصنوعی سئول، رهبران جهان با ایجاد شبکهای از مؤسسات ایمنی هوش مصنوعی موافقت کردند.
در همان سپتامبر ۲۰۲۳، کتابی از مصطفی سلیمان، مدیرعامل وقت Inflection AI که اکنون مدیر هوش مصنوعی مایکروسافت است، نیز استدلال میکرد دولتها باید وارد حوزه تنظیمگری شوند.
اوت و سپتامبر ۲۰۲۴؛ ایلان ماسک و Anthropic از لایحه ایمنی هوش مصنوعی کالیفرنیا حمایت میکنند
ایلان ماسک در ماه اوت نوشت: «تصمیم دشواری است و بعضیها را ناراحت خواهد کرد، اما با درنظرگرفتن همه جوانب، فکر میکنم کالیفرنیا احتمالاً باید لایحه ایمنی هوش مصنوعی SB 1047 را تصویب کند.»
Anthropic در ماه ژوئیه ابتدا با این لایحه مخالفت کرده بود. OpenAI نیز در ماه اوت با آن مخالفت کرد، اما Anthropic در سپتامبر موضع خود را تغییر داد.
بااینحال گاوین نیوسام، فرماندار کالیفرنیا، SB 1047 را وتو کرد و گفت: «باور ندارم این بهترین رویکرد برای حفاظت از مردم در برابر تهدیدهای واقعی این فناوری باشد.»
اکتبر ۲۰۲۴؛ Anthropic خواستار «تنظیمگری هدفمند» میشود
Anthropic در نامهای سرگشاده نوشت: «دولتها باید فوراً و طی ۱۸ ماه آینده در زمینه سیاستگذاری هوش مصنوعی اقدام کنند. فرصت پیشگیری پیشدستانه از خطرها بهسرعت در حال ازبینرفتن است.»
شرکت تأکید کرد: «بسیار مهم است که طی یک سال آینده، سیاستگذاران، صنعت هوش مصنوعی، حامیان ایمنی، جامعه مدنی و قانونگذاران برای ایجاد یک چارچوب مقرراتی مؤثر با یکدیگر همکاری کنند.»
ژانویه ۲۰۲۵؛ OpenAI «پیشنهادهای سیاستی» خود را ارائه میکند
OpenAI در سند سیاستی خود ابتدا این استدلال را مطرح کرد که بریتانیا با وضع مقررات، توسعه صنعت خودروسازی خود را محدود کرده است و در مقابل، ایده «هوش مصنوعی دموکراتیک» را پیشنهاد داد.
در این سند آمده بود: «قواعد و مقررات توسعه و استفاده از هوش مصنوعی باید بر ارزشهای دموکراتیکی استوار باشند که کشور همواره بر آنها تکیه داشته است.»
ژوئن ۲۰۲۵؛ مدیرعامل Anthropic: شرکتهای هوش مصنوعی را از مسئولیت معاف نکنید
داریو آمودی، مدیرعامل Anthropic، در یادداشتی مهمان برای نیویورکتایمز نوشت:
قانون فدرال ما یا هیچ شرکت هوش مصنوعی دیگری را ملزم نمیکند درباره تواناییهای مدلهای خود شفاف باشیم یا گامهای معناداری برای کاهش خطر برداریم. بعضی شرکتها میتوانند بهسادگی تصمیم بگیرند که این کار را انجام ندهند.
این یادداشت در مخالفت با پیشنهاد دولت ترامپ برای ایجاد یک ممنوعیت ۱۰ساله بر تنظیمگری هوش مصنوعی توسط ایالتهای آمریکا نوشته شده بود.
بااینحال آمودی در این یادداشت خواستار کاهش سرعت توسعه هوش مصنوعی نبود. او در عوض از ایجاد یک «استاندارد ملی شفافیت» حمایت کرد؛ استانداردی که به گفته او «نهتنها به مردم، بلکه به کنگره نیز کمک میکند بفهمد فناوری چگونه در حال توسعه است.»
سپتامبر ۲۰۲۵؛ Anthropic از SB 53 کالیفرنیا حمایت میکند
هنگامی که کالیفرنیا بار دیگر تلاش کرد غولهای هوش مصنوعی مستقر در این ایالت را تحت تنظیمگری قرار دهد، Anthropic از همان ابتدا از SB 53 حمایت کرد.
این بار لایحه به قانون تبدیل شد. SB 53 استانداردی برای شفافیت ایجاد کرد که مشابه همان چیزی بود که Anthropic خواستار آن شده بود و شامل الزامات گزارشدهی ایمنی و حمایت از افشاگران میشد.
OpenAI علیه این لایحه لابی کرده بود.
سپتامبر ۲۰۲۶؛ صنعت هوش مصنوعی ظاهراً با کاهش سرعت موافق شده، درحالیکه ترامپ نگرانیها درباره هوش مصنوعی را «توطئهای بیمارگونه» میخواند
ورج مینویسد اوضاع در تابستان امسال بهطور جدی تغییر کرد. مشخص شد عاملهای هوش مصنوعی خارج از کنترل نهتنها میتوانند به شرکتهای دیگر حمله کنند، بلکه در مواردی چنین اتفاقی رخ داده است.
OpenAI در ماه اوت اعلام کرد سرعت خود را کاهش داده است. در ۸ سپتامبر نیز یکی از پژوهشگران ارشد ایمنی Anthropic در اعتراض به شرایط موجود استعفا داد و اعلام کرد از نظر او ۱۰ درصد احتمال دارد هوش مصنوعی تا پایان دهه جاری همه انسانها را از بین ببرد. یکی دیگر از پژوهشگران ایمنی Anthropic نیز با این ارزیابی موافقت کرد. این درصد، برآورد شخصی پژوهشگران مورد اشاره در گزارش ورج است و نه یک برآورد علمی مورد اجماع.
حالا ناگهان به نظر میرسد صنعت هوش مصنوعی بر سر کاهش سرعت توسعه به توافقی نسبی رسیده است.
ورج در این زمینه به چند گزارش دیگر خود اشاره میکند:
- مدیرعامل Anthropic میگوید زمان آن رسیده ترمز توسعه هوش مصنوعی کشیده شود.
- مایکروسافت پس از افزایش نگرانیهای ایمنی میگوید «انسانها مهمتر از هوش مصنوعی هستند».
- مدیران فناوری و سیاستمداران درباره کاهش سرعت توسعه هوش مصنوعی چه میگویند؟
- کاهش سرعت هوش مصنوعی در شرکتهای بزرگ فناوری؛ توافقی برای ایمنی یا نوعی کارتل؟
آیا این موج جدید، بار دیگر به درخواست برای تنظیمگری منجر شده است؟ دستکم از موضع مدیرعامل Anthropic چنین به نظر میرسد.
داریو آمودی در مقالهای با عنوان «We Must Pace the Frontier» مینویسد: «مؤثرترین روش برای تنظیم سرعت، مقرراتی است که همه شرکتهای آمریکایی فعال در مرز پیشرفت هوش مصنوعی را هدف قرار دهد؛ زیرا به این ترتیب حتی شرکتهایی را که حاضر به همکاری داوطلبانه نیستند نیز پوشش میدهد.»
او همچنین پیشنهاد میکند دولتها بتوانند افرادی را در داخل شرکتهای هوش مصنوعی مستقر کنند تا به جلوگیری از وقوع حوادث کمک کنند.
بااینحال مشخص نیست همه شرکتهای هوش مصنوعی مایل باشند تا این اندازه پیش بروند.
سم آلتمن، مدیرعامل OpenAI، نوشته است: «جایی که به کمک دولت نیاز خواهیم داشت، هماهنگی بینالمللی است. اما ابتدا باید هر کاری را که خودمان میتوانیم انجام دهیم.»
بااینحال آلتمن گفته است OpenAI حاضر است متعهد شود ارزیابان مستقلی داشته باشد که «دسترسی در حد کارکنان» به شرکت داشته باشند.
به نظر نمیرسد مارک زاکربرگ و متا نیز کاملاً با این رویکرد همسو باشند. زاکربرگ ۱۵ سپتامبر نوشت هر شرکت مسئولیت مستقل خودش را دارد که با سرعت مناسبی حرکت کند و متا همین حالا نیز چنین کاری انجام میدهد.
او همچنین بار دیگر به بیانیه ماه اوت خود ارجاع داد که در آن نوشته بود: «هر سیاستی که عرضه مدلهای آمریکایی را حتی یک ماه به تأخیر بیندازد، میتواند خطر قابلتوجهی برای رهبری آمریکا ایجاد کند و در همان حال اجازه دهد مدلهای خارجی با سرعت به مسیر خود ادامه دهند.»
ورج در پایان گزارش مینویسد فارغ از آنچه مدیران صنعت فناوری میگویند، تصویب مقررات گسترده در دولت ترامپ را بعید میداند و این ارزیابی را به مواضع اعلامشده دولت درباره حرکت سریعتر صنعت هوش مصنوعی نسبت میدهد.
حتی اگر این شرکتها در عمل مقرراتی را که ظاهراً خواستارش هستند نخواهند، این یکی از بلندترین زنگهای خطری است که صنعت هوش مصنوعی تاکنون به صدا درآورده است؛ و جهان در حال تماشای آن است.