گردابهای توهـــم
هوش مصنوعی چطور تصمیمگیری را مخدوش و مستبدان را خطرناکتر میکند؟
هوش مصنوعی چطور تصمیمگیری را مخدوش و مستبدان را خطرناکتر میکند؟
ترجمه: مجتبی پارسا
خبرنگار گروه بینالملل
فارین افرز
در محافل سیاسی، بحث در مورد هوش مصنوعی همواره چین را در رقابت برای برتری تکنولوژیکی در برابر ایالات متحده آمریکا قرار میدهد. اگر منبع اصلی در هوش مصنوعی، دادهها باشند، آنوقت چین با بیش از یک میلیارد نفر جمعیت و حمایتهای ضعیف قانونی از دادههای شهروندان در مقابل نظارت دولت، پیروز خواهد شد. کایفو لی، دانشمند معروف کامپیوتر ادعا کرده است که دادهها، نفت جدید است و چین هم اوپک جدید. با این حال اگر فناوری برتر چیزی است که برتری میآورد، ایالات متحده آمریکا با سیستم دانشگاهی جهانی و نیروی کار بااستعداد، هنوز هم فرصتی برای پیشرفت دارد. تحلیلگران فرض میکنند که برای هریک از این کشورها، برتری در هوش مصنوعی بهطور طبیعی منجر به برتری اقتصادی و نظامی گستردهتر میشود.
هوش مصنوعی آنقدر که خودِ رقبا را متحول میکند، رقابت بین قدرتها را دگرگون نمیکند. ایالات متحده آمریکا حکومتی دموکراتیک است و چین، رژیمی استبدادی. یادگیری ماشینی، هریک از این سیستمهای سیاسی را به روشی به چالش میکشد. چالشهای پیش روی دموکراسیهایی مانند آمریکا، بسیار آشکار و قابل مشاهده است. یادگیری ماشینی با مهندسی مجدد جهانِ آنلاین، میتواند قطبیشدن را افزایش دهد. مطمئنا هوش مصنوعی در آینده، اطلاعات نادرست را افزایش و گفتارهای جعلی متقاعدکنندهای را در مقیاس وسیع، تولید میکند. چالشهای حکومتهای خودکامه، ظریفتر اما احتمالا ویرانگرتر هستند. یادگیری ماشینی ممکن است مستبدان را سردرگم کند و ظاهری نادرست از وفاق عمومی ایجاد کند و شکافهای اجتماعی زیربنایی را تا زمانی که برای مقابله با آنها بسیار دیر میشود، پنهان کند.
پیشگامان اولیه هوش مصنوعی از جمله هربرت سایمون، دانشمند علوم سیاسی متوجه شدند که فناوری هوش مصنوعی بیش از کاربردهای ساده مهندسی، با بازارها، بروکراسیها و نهادهای سیاسی مشترک است. نوربرت وینر، یکی دیگر از پیشگامان این حوزه، هوش مصنوعی را سیستمی «سایبرنِتیک» توصیف کرده است؛ سیستمی که میتواند پاسخ دهد و خود را با بازخوردهایی که میگیرد، تطابق دهد. نه سایمون و نه وینر پیشبینی نمیکردند که یادگیری ماشینی چگونه بر هوش مصنوعی تسلط خواهد یافت. فیسبوک و گوگل از یادگیری ماشینی به عنوان موتور تحلیلی یک سیستم خوداصلاحگر استفاده میکنند که به طور مداوم درک خود را از دادهها، با توجه به موفقیت یا شکست پیشبینیهایشان، بهروز میکنند. این حلقه اتصال میان «تجزیه و تحلیل آماری» و «بازخورد از محیط» است که یادگیری ماشینی را به چنین نیروی مهیبی تبدیل کرده است.
چیزی که کمتر به آن توجه شده این است که دموکراسی و استبداد هم سیستمهای سایبرنِتیک هستند. در هردوی این نوع حکومتها، دولتها سیاستهایی را وضع و سپس سعی میکنند دریابند که این سیاستها موفق بوده یا شکست خوردهاند. در دموکراسیها، آرای مردمی و نظرات، بازخورد قدرتمندی را در مورد اینکه یک رویکرد معین، واقعا جواب داده یا نه، ارائه میدهند. نظامهای استبدادی به لحاظ تاریخی شرایط سختتری را برای دریافت بازخوردهای خوب داشتهاند. پیش از عصر ارتباطات، آنها نهتنها به اطلاعات داخلی بلکه به دادخواستها و عریضهها و نظرسنجیهای محرمانه هم تکیه میکردند تا بفهمند شهروندانشان چه اعتقادی دارند.
حالا اما یادگیری ماشینی، شکلهای سنتی بازخوردهای دموکراتیک، یعنی آرا و نظرات را مختل میکند، چراکه فناوریهای جدید، اطلاعات نادرست را تسهیل و سوگیریهای موجود را با تعصب پنهان در دادهها و تبدیل آنها به ادعاهای نادرست، شدیدتر میکنند. در همین حال، شرایط برای مستبدانی که در تاریکی دستوپا میزنند فرق میکند و گویی یادگیری ماشینی، اجابت دعاهای آنهاست. این فناوری بدون دردسر نظرسنجیها یا خطرات سیاسی بحثهای آزاد و انتخابات، میتواند به حاکمان بگوید که آیا رعایای آنها کاری را که انجام میدهند، دوست دارند یا نه. از همین رو بسیاری از ناظران نگرانند که پیشرفت در زمینه هوش مصنوعی، باعث تقویت قدرت دیکتاتورها میشود و آنها را قادر میسازد تا جوامع خود را کنترل کنند.
حقیقت پیچیدهتر از این است. انحراف و سوگیری، به وضوح مشکلی برای دموکراسیها است. اما از آنجایی که در سیستمهای دموکراتیک چنین چیزی بیشتر قابل مشاهده است، مردم میتوانند از طریق سایر شکلهای بازخورد، سوگیری را کاهش دهند. مثلا اگر یک گروه نژادی ببیند که الگوریتمهای استخدام، مغرضانه علیه آنها است، میتوانند اعتراض کنند و شانسی برای موفقیت داشته باشند. کشورهای اقتدارگرا هم به اندازه کشورهای دموکراتیک، بلکه بیشتر، مستعد تعصب و سوگیری هستند. بیشترِ این سوگیریها خاصه برای تصمیمگیران در رأس هرم قدرت احتمالا نامرئی است. همین امر، اصلاحات را بسیار دشوار میکند، حتی وقتی رهبران متوجه میشوند که چیزی نیازمند اصلاح است.
برخلاف پنداشت همگان، هوش مصنوعی میتواند رژیمهای استبدادی را با تقویت ایدئولوژیها و خیالپردازیهای آنها و آسیب زدن به فهم درست از دنیای واقعی، به شدت تضعیف کند. در این میان، کشورهای دموکراتیک باید با کشورهای مستبدی که در تنگنای گرداب توهمِ هوش مصنوعی هستند، مبارزه کنند.
بازخوردِ اشتباه
بیشترِ بحثها در مورد هوش مصنوعی، مرتبط با یادگیری ماشینی است؛ یعنی الگوریتمهای آماری که روابط بین دادهها را استخراج میکند. این الگوریتمها حدس میزنند: آیا سگی در این عکس وجود دارد؟ این استراتژی در این بازی شطرنج منجر به پیروزی در 10حرکت دیگر میشود؟ کلمه بعدی در این جمله نیمهتمام چیست؟ یک به اصطلاح تابع هدف که ابزاری ریاضی برای امتیازدهی به نتایج است، میتواند الگوریتم را در صورت حدس درست، پاداش دهد. این فرایند نشان میدهد که عملکرد هوش مصنوعی تجاری چگونه است. به عنوان مثال، یوتیوب میخواهد کاربران را درگیر نگه دارد تا ویدیوهای بیشتری را تماشا کنند و تبلیغات بیشتری را ببینند. تابع هدف در آنجا برای بیشینه کردنِ تعامل کاربر طراحی شده است. این الگوریتم سعی میکند محتوایی را ارائه دهد که چشم کاربر را روی صفحه نگه دارد. این الگوریتم بسته به اینکه در مورد نشان دادن یک ویدیوی خاص به یک کاربر خاص، حدس درستی زده یا نه، مدل خود را نسبت به واکنش کاربر، بهروز میکند.
توانایی یادگیری ماشینی برای اتوماتیک کردنِ این حلقه بازخورد با دخالت کم یا بدون دخالت انسان، تجارت الکترونیک را تغییر داده است. ممکن است روزی به اتومبیلهای کاملا خودران، اجازه حضور داده شود، اگرچه این پیشرفت، بسیار سختتر از آنچه مهندسان پیشبینی میکردند، شده است. توسعه تسلیحات خودمختار، همچنان مشکل بزرگی است. وقتی الگوریتمها با اطلاعات واقعا غیرمنتظره مواجه میشوند، معمولا در درک آن، شکست میخورند. اطلاعاتی که انسان به راحتی میتواند آنها را درک کند، یادگیری ماشینی ممکن است آنها را به اشتباه طبقهبندی کند و بهاین ترتیب، اوضاع خراب شود. مثلا بعضیها با چسباندن برچسبهای کوچکِ سیاه و سفید روی تابلوهای ایست، مانع از آن میشوند که این علائم توسط سیستم خودروهای خودران، شناسایی شوند. چنین آسیبپذیریهایی حاکی از محدودیتهای آشکار در عملکرد هوش مصنوعی در زمان جنگ است.
متفکران کامپیوتر معتقدند که دادهها بسیار مهماند. هرچه دادههای بیشتری داشته باشید، سریعتر میتوانید عملکرد الگوریتم خود را بهبود ببخشید و تغییرات کوچک را تا رسیدن به یک برتری قطعی، تکرار میکنید. اما یادگیری ماشینی، محدودیتهایی دارد. مثلا با وجود سرمایهگذاریهای هنگفت شرکتهای فناوری، الگوریتمها بسیار کمتر از آنچه تصور میشد، در ترغیب مردم برای خرید یک محصول نسبت به کالایی دیگر، موثر بوده است. دستکاری موثرِ ترجیحات سطحی مردم دشوار است و بنابراین احتمالا تغییر عقاید و باورهای عمیق مردم، بسیار دشوارتر است.
هوش مصنوعی اما با محدودیت دیگری به نام تبعیض یا سوگیری مواجه است که میتواند در کُدها نفوذ کند. زمانی که آمازون سعی کرد از یادگیری ماشینی برای استخدام افراد استفاده کند، الگوریتم را با دادههای رزومههایی آموزش داد که استخدامکنندههای انسانی، آن رزومهها را ارزیابی کرده بودند. در نتیجه سیستم سوگیریهای ضمنی در تصمیمات انسانی را بازتولید کرد و الگوریتمها هم علیه رزومه زنان تبعیض قائلشده بودند. چنین مشکلاتی میتوانند خود را تقویت کنند. مثلا آنطور که «روها بنجامین» جامعهشناس میگوید، اگر سیاستگذاران از یادگیری ماشینی برای تصمیم جهت اینکه نیروهای پلیس را به چه مناطقی بفرستند، استفاده کنند، این فناوری میتواند آنها را اینطور راهنمایی کند که پلیس بیشتری را به محلههایی بفرستد که نرخ دستگیری افراد در آنها بالا بوده است و در این فرایند، پلیس بیشتری را به مناطق دارای گروههای نژادی اعزام کند. چون پلیس نسبت به این موضوع، سوگیری نشان داده است و همین امر میتواند به نوبه خود منجر به دستگیریهای بیشتر در آن مناطق شود و الگوریتم را در یک دور باطل تقویت کند.
برنامهنویسان، ضربالمثلی قدیمی دارند که میگوید «آشغال وارد کنی، آشغال بیرون میآید» و بهاین معناست که دادههای ورودی روی دادههای خروجی تاثیر میگذارند و بالعکس. اگر الگوریتمهای یادگیری ماشینی بهطور مناسب تصحیح نشوند، کمکم از همان آشغالی که تولید کرده استفاده میکند و زنجیرهای از تصمیمگیری بد ایجاد میکند. بیشتر مواقع، سیاستگذاران، ابزارهای یادگیری ماشینی را به عنوان پیشگوییهای عاقلانه و بیطرف درنظر میگیرند، نه بهعنوان ابزاری خطاپذیر که میتواند مشکلاتی را که مدعی حل آن است، تشدید کند.
اقتدارگرایان بدون تکیهگاه
نظامهای سیاسی هم سیستمهای بازخوردی هستند. در حکومتهای دموکراتیک، مردم بهمعنای واقعی کلمه رهبران را در انتخاباتی که آزاد و منصفانه است، ارزیابی میکنند و امتیاز میدهند. احزاب سیاسی با هدف کسب قدرت و حفظ آن وعده میدهند. اپوزیسیون قانونی، اشتباهات دولت را برجسته میکند، در عین حال، مطبوعات آزاد هم در مورد جنجالها و اعمال خلاف، گزارش میدهند. متصدیان بهطور مداوم با رایدهندگان روبهرو میشوند و در چرخهای که بهطور مداوم تکرار میشود، میآموزند که آیا اعتماد عمومی را بهدست آوردهاند یا از دست دادهاند.
اما بازخورد در جوامع دموکراتیک بدون نقص کار نمیکند. مردم ممکن است درک عمیقی از سیاست نداشته باشند و این امر میتواند باعث شود که مردم، دولتها را به خاطر چیزهایی که خارج از کنترل آنها است، مجازات کنند. سیاستمداران و کارکنان آنها ممکن است آنچه را که مردم میخواهند درک نکنند. اپوزیسیون انگیزههایی برای دروغگویی و اغراق دارد. رقابت در انتخابات هزینه دارد و تصمیمات واقعی گاهی پشت درهای بسته گرفته میشود. رسانهها ممکن است سوگیری داشته باشند یا به جای آموزش مخاطبانشان، بیشتر به سرگرم کردن آنها بپردازند.
با همه این اوصاف، بازخورد، یادگیری را ممکن میکند. سیاستمداران میآموزند که مردم چه میخواهند. مردم میآموزند که انتظار چه چیزی را میتوانند داشته باشند و انتظار چه چیزی را نه. مردم میتوانند آشکارا از اشتباهات دولت انتقاد کنند، بدون اینکه به زندان بیفتند. با ظهور مشکلات جدید، گروههای جدید سازماندهی میشوند تا آنها را عمومی و سعی کنند دیگران را برای حل آنها متقاعد کنند. همه اینها به سیاستگذاران و دولتها اجازه میدهد تا با دنیایی پیچیده و همیشه در حال تغییر در ارتباط باشند.
بازخورد در حکومتهای استبدادی بسیار متفاوت عمل میکند. رهبران نه از طریق انتخابات آزاد و منصفانه، بلکه با نبردهای بیرحمانه برای جانشینی و سیستمهای اغلب غیرشفاف انتخاب میشوند. حتی در جایی که مخالفت با دولت بهطور رسمی قانونی است، از آن جلوگیری میشود و گاهی اوقات این اتفاق بهطور وحشیانه میافتد. اگر رسانهها از دولت انتقاد کنند، خطر برخورد قانونی و خشونت را در پی خواهند داشت. انتخابات، زمانی که اتفاق میافتد، بهطور سیستماتیک به نفع متصدیان متمایل میشود. شهروندانی که با رهبران خود مخالف هستند فقط درگیر مشکلات برای سازماندهی نیستند؛ آنها برای صحبت کردن در معرض مجازاتهای سخت از جمله زندان و مرگ هستند. به همه این دلایل، دولتهای مستبد اغلب درک خوبی از نحوه عملکرد جهان یا خواستههای شهروندانشان ندارند.
به دلیل نظارت شدید بر اطلاعات، حاکمان اقتدارگرا نمیتوانند به شهروندان، رسانهها و صداهای مخالف برای ارائه بازخورد اصلاحی آنطور که رهبران دموکراتیک میتوانند، تکیه کنند. نتیجه این است که آنها با شکست سیاستهایی مواجه میشوند که میتواند مشروعیت و توانایی بلندمدت آنها را برای حکومت تضعیف کند. برای مثال، تصمیم فاجعهبار ولادیمیر پوتین، رئیسجمهور روسیه برای حمله به اوکراین، ظاهرا براساس ارزیابی نادرست از روحیه اوکراینیها و قدرت ارتش خودش بوده است.
به نظر میرسد دادهها، اقداماتی عینی را ارائه میدهند که جهان و مشکلات آن را توضیح میدهد، بدون اینکه هیچیک از خطرات و مشکلات سیاسی انتخابات یا رسانههای آزاد را داشته باشد. اما حکومتهای خودکامه از مشکلاتی در این زمینه رنج میبرند. اینکه مقامات رسمی آمارها را دستکاری میکنند یا اینکه شهروندان از تبدیل خشم خود به اعتراضات گسترده امتناع میورزند، میتواند عواقبی جدی داشته باشند؛ در کوتاهمدت احتمال تصمیمات بد برای سیاستگذاران و در درازمدت، شکست رژیم محتمل است.
دکمههای احساسات مردمی
اصلیترین سوال این نیست که در رقابت هوش مصنوعی، آمریکا پیروز میشود یا چین؛ سوال اصلی این است که چگونه هوش مصنوعی، حلقههای بازخورد متفاوتی را که دموکراسیها و حکومتهای استبدادی برای اداره جوامع خود به آن تکیه میکنند، تغییر خواهد داد. بسیاری از ناظران میگویند که فراگیر شدن یادگیری ماشینی، بیتردید به دموکراسی آسیب میرساند و به استبداد کمک میکند. از نظر آنها، الگوریتمهای رسانههای اجتماعی مثلا با آسیب رساندن به کیفیت بازخورد شهروندان، دموکراسی را تضعیف میکنند. آنها میگویند همانطور که مردم در یوتیوب، پس از این ویدیو روی ویدیوی بعدی کلیک میکنند، الگوریتم یوتیوب محتوای تکاندهنده و هشداردهندهای را ارائه میدهد تا آنها را درگیر دیدن ویدیوها نگه دارد. این محتوا اغلب شامل تئوریهای توطئه یا دیدگاههای سیاسی افراطی است که شهروندان را به سرزمین عجایب تاریک میکشاند که همهچیز در آن وارونه است.
در مقابل، یادگیری ماشینی با تسهیل کنترل بیشتر بر مردم، به حکومتهای استبدادی کمک کند. یووال هراری مورخ و تعدادی از محققان دیگر ادعا میکنند که هوش مصنوعی «یاریرسانِ مستبدان» است. طبق نظر آنها، هوش مصنوعی، دادهها و قدرت را متمرکز میکند و به رهبران اجازه میدهد تا با اطلاعاتی که در دسترس دارند، در زمان نیاز، «دکمههای احساسات» را فشار دهند و ذهنِ شهروندان عادی را دستکاری کنند. این فرآیند تکراری و بیپایانِ بازخورد و واکنش، شکلی نامرئی و مؤثر از کنترل اجتماعی را ایجاد میکند. در این میان، رسانههای اجتماعی به حکومتهای اقتدارگرا اجازه میدهند تا نبض مردم را در دست بگیرند و قلب آنها را نیز تسخیر کنند.
اما این استدلالها بر پایههای نامشخصی استوار است. اگرچه اطلاعات بیرونآمده از فیسبوک نشان میدهد که الگوریتمها واقعا میتواند افراد را به سمت محتوای رادیکال و افراطی هدایت کند، تحقیقات اخیر نشان میدهد که خودِ الگوریتمها آنچیزی را که مردم به دنبالش هستند، تغییر نمیدهد. افرادی که در یوتیوب، ویدیوهای افراطی را جستوجو میکنند، احتمالا به سمت چیزهای بیشتری هدایت میشوند که خودشان میخواهند؛ اما افرادی که اساسا به محتوای خطرناک علاقهای ندارند، بعید است از توصیههای الگوریتمها پیروی کنند و به آن سو کشیده شوند. بنابراین اگر بازخوردها در جوامع دموکراتیک بهطور فزایندهای دچار نابسامانی شوند، همه تقصیرها بر گردن یادگیری ماشینی نیست؛ یادگیری ماشینی فقط به این امر کمک میکند.
شواهد دقیقی وجود ندارد که نشان دهد یادگیری ماشینی، باعث کنترل ذهنی عمومی میشود و دموکراسی را از بین میبرد و اقتدارگرایی را تقویت میکند. اگر الگوریتمها در ترغیب مردم به خرید کالاها هم خیلی موثر نباشند، احتمالا در ترغیب آنها به تغییر نظرشان در مورد ارزشهای اصلیشان مانند سیاست، بسیار کمتر موثر خواهند بود. در واقع، اقتدارگراییای که بر دادههای کاملا خودکار مبتنی است ممکن است به دامی برای کشورهایی مانند چین که قدرت را در گروه کوچکی از تصمیمگیرندگان متمرکز میکنند، تبدیل شود. کشورهای دموکراتیک مکانیسمهای اصلاحی دارند؛ یعنی شکلهای جایگزین بازخورد شهروندان که میتواند بر دولتها نظارت کند تا از مسیر درست خارج نشوند. دولتهای مستبد، چنین مکانیزمی ندارند. گرچه نظارت کامل حکومتی میتواند در کوتاهمدت موثر بیفتد، خطر اصلی برای دولتهای اقتدارگرا این است که آنها توسط شکلهای سوگیریهای خودتقویتکننده که از سوی یادگیری ماشینی ایجاد شده، تضعیف میشوند. از آنجایی که این حکومتها از یادگیری ماشینی بهطور گسترده استفاده میکنند، ایدئولوژی لیدر، نحوه کارکرد یادگیری ماشینی و نحوه تفسیر آن را شکل میدهد. دادههایی که در این فرایند به دست میآیند، به احتمال زیاد منعکسکننده تعصبات همان لیدر است.
بنابراین یادگیری ماشینی بیشتر، ممکن است باعث شود تصمیمات بد رژیمهای اقتدارگرا دوچندان شود. مثلا وقتی از یادگیری ماشینی برای شناسایی مخالفان احتمالی استفاده میشود و الگوریتمها براساس سوابق دستگیری نوشته میشوند، احتمالا سوگیریهای خودتقویتکننده ایجاد خواهد شد که بازتابدهنده و تاییدکننده باور مدیران در مورد گروههای اجتماعی طردشده است و بهاین ترتیب، سوءظنها نسبت به این گروهها بهطور اجتنابناپذیری تداوم مییابد. در حکومتهای دموکراتیک، عقبنشینیهایی هرچند ناکافی، صورت میگیرد؛ اما در رژیمهای خودکامه، مقاومت بسیار شدید است. این مشکلات برای کسانی که در داخل سیستم هستند، قابل مشاهده نیست، چراکه مقامات و الگوریتمها، سوگیری و تعصبات مشابهی دارند. این امر باعث میشود به جای سیاستگذاری درست، سیاستهایی اِعمال شود که بر آسیبها میافزاید و نابسامانیهای اجتماعی، خشم و در نهایت ناآرامی و بیثباتی را منجر میشود.
خودکامگان بهطور فزاینده در حلقههای بازخوردِ اطلاعات ناسالم خود گرفتار میشوند و از این رو فهم اینکه مردم واقعا چه اعتقادی دارند، برای حکومتهای اقتدارگرا دشوارتر و روند سیاستگذاری نیز پیچیدهتر میشود. برای رهبران خودکامه، پرهیز از دستیابی به منابع خود، سخت خواهد بود و برای همین هم آنها به این باور میرسند که شهروندان، سیاستهای عمیقا نامطلوب آنها را تحمل میکنند یا حتی دوست دارند.
تهدیدات مشترک
سوال این است که وقتی کشورهای مستبد مانند چین در حلقههای بازخورد اطلاعاتی ناسالم خود گرفتار شوند، مواجهه جهان با این کشورها چگونه خواهد بود؟ یکی از پاسخها این است که رقبای دموکراتیک، خودکامگان را به حال خود رها کنند و از هر چیزی که دولتهای اقتدارگرا را تضعیف میکند، استقبال کنند. اما چنین واکنشی میتواند به فاجعه انسانی ختم شود. بسیاری از سوگیریهای فعلی دولت چین، مانند سیاستهای آن در قبال اویغورها، بهطور فعالی بدخواهانه است و ممکن است بسیار بدتر هم بشود. پیامدهای پیشینِ نابینایی پکن در برابر واقعیت، منجر به قحطی بزرگ و مرگ حدود 30میلیون نفر بین سالهای 1959 و 1961 شد. خطرات فاجعههای سیاست خارجی ناشی از هوش مصنوعی در چین و جاهای دیگر باید درک شود.
از سوی دیگر، نهتنها ممکن است دادههای بد و باورهای ناعاقلانه از جوامع اقتدارگرا به جوامع دموکراتیک درز کند، بلکه تصمیمات اقتدارگرایانه وحشتناک نیز میتواند عواقبی غیرقابل پیشبینی برای کشورهای دموکراتیک داشته باشد. دولتها وقتی به هوش مصنوعی فکر میکنند، باید بدانند که ما در جهانی وابسته بههم زندگی میکنیم؛ جهانی که مشکلات حکومتهای مستبد، به کشورهای دموکراتیک هم سرریز میکند. بنابراین، رویکرد هوشمندانهتر این است که از طریق مناسبات بینالمللی مشترک در جامعه جهانی، به دنبال کاهش نقاط ضعف هوش مصنوعی باشیم.
این رویکرد همکاری ممکن است در زمینه رقابت فزاینده آمریکا و چین، عجیب بهنظر برسد، اما یک سیاست تعدیلشده و دقیق میتواند به واشنگتن و متحدانش کمک کند. یکی از مسیرهای خطرناک این است که آمریکا در مسابقه برای تسلط در زمینه هوش مصنوعی غرق شود و طرف مقابل هم مشکلات بازخوردی خودکامگی را شدیدتر کند. هردوی اینها خطر وقوع جنگی محتمل و ویرانگر را در پی دارد. بنابراین بسیار امنتر است که همه دولتها خطرات مشترک هوش مصنوعی را بشناسند و برای کاهش این خطرات، با یکدیگر همکاری کنند.