هوش مصنوعی یا برادر بزرگ‌تر
برادر بزرگ‌تر، یکی از مفاهیم نمادینی است که در پژوهش‌های مربوط به اقتدارگرایی و توتالیتاریسم (تمامیت‌خواهی)، بارها مورد ارجاع قرار گرفته است.
برادر بزرگ‌تر، یکی از مفاهیم نمادینی است که در پژوهش‌های مربوط به اقتدارگرایی و توتالیتاریسم (تمامیت‌خواهی)، بارها مورد ارجاع قرار گرفته است. این مفهوم که برگرفته از رمان پادآرمان‌شهری ۱۹۸۴ جورج اورول است، نمادی از قدرت مطلق، نظارت دائمی و کنترل روانی بر جامعه است. با توسعه روزافزون فناوری‌های جدید ازجمله اینترنت اشیاء و هوش مصنوعی، نگرانی بابت آنکه همه افراد جامعه به‌طور‌کامل تحت نظارت هوش مصنوعی باشند و «برادر بزرگ‌تر» نمود عینی در جامعه پیدا کند بیش‌ازپیش شده است.
امری که می‌تواند منجر به شکل‌گیری ورژن جدیدی از توتالیتاریسم شود. این امر خصوصاً زمانی نگران‌کننده‌تر می‌شود که از منظر فناورانه، هیچ‌چیزی وجود ندارد که مانع از نظارت انبوه توسط دولت‌ها از طریق استفاده از هوش مصنوعی و علم داده شود.
استفاده از دوربین‌های هوشمند برای تحلیل چهره، سانسور خودکار محتوا، جمع‌آوری لحظه‌ای داده‌های کاربران و استفاده از آن برای شناخت و پیش‌بینی رفتار کاربر و... ازجمله مواردی است که می‌تواند توسط دولت‌ها برای بسط و ایجاد نظارت دائمی بر شهروندان استفاده شود. این نظارت انبوه که تقریباً امکان اعتراض به آن وجود ندارد، خطرناک است. قدرت نظام‌های سیاسی، با استفاده از این داده‌ها، بیشتر شده و درعمل این داده‌ها می‌تواند به رویکردهای اقتدارگرایانه توسط دولت‌ها دامن بزند.
البته این تصور که فقط دولت‌ها ممکن است از این ابزارها برای بسط اقتدارگرایی استفاده کنند، دیگر تصور درستی نیست. هوش مصنوعی می‌تواند باعث بروز نوعی «تمامیت‌خواهی شرکتی» نیز بشود؛ چراکه بسیاری از داده‌های کاربران در اختیار این شرکت‌هاست.
ما بدون آنکه خودمان اطلاع داشته باشیم، مرتب داریم این داده‌ها را در اختیار شرکت‌های بزرگ نظیر گوگل، اپل، متا یا مایکروسافت قرار می‌دهیم. از اطلاعات مربوط به سلامت جسمی و روانی گرفته تا احساسات شخصی در طول روز و مکان‌هایی که در آن رفت‌وآمد می‌کنیم.
موضوع فقط منحصر به داده‌های شبکه‌های اجتماعی نیست؛ بلکه این شرکت‌ها از طریق ساعت‌های هوشمند، اینترنت اشیاء و فناوری‌های مربوط به خانه، تصاویر شخصی ذخیره شده روی کلاود و... نیز ما را به‌صورت مداوم و لحظه‌ای رصد و نظارت می‌کنند.
امری‌که تک‌تک انسان‌ها را قابل پیش‌بینی کرده و باعث‌شده تا نقاط‌ضعف هرکسی برای این شرکت‌های بزرگ، و چه‌بسا دولت‌ها، آشکار شود. بدین‌ترتیب امکان اثرگذاری بر انسان از طریق احساسات‌اش و دستکاری ذهن او، دیگر چندان دشوار نیست. به‌قول نویسنده کتاب «انسان خردمند»، ما اکنون قابل هک‌شدن هستیم. به‌تعبیردیگر، دولت‌ها و شرکت‌ها راحت‌تر از گذشته می‌توانند خواسته‌های خودشان را از طریق کاربران پلتفرم‌ها پیش ببرند.
بدین‌ترتیب به‌تعبیر «زوبوف» آنچه در حال وقوع است، تنها یک دگرگونی فناورانه نیست، بلکه نوعی کودتای خاموش علیه حاکمیت انسان‌ها بر آینده‌شان است. بنابراین فناوری در خطر تبدیل‌شدن به یکی از خاستگاه‌های توتالیتاریسم (تمامیت‌خواهی) است.
این فرآیندی تدریجی است و به آرامی و در غیاب آگاهی کاربران این ابزارهای فناورانه، عملاً مدیران این شرکت‌های بزرگ و شاید برخی دولت‌ها، بازیگران اصلی باشند که صاحب قدرت هستند و ما را ـ یعنی کاربران شبکه‌های اجتماعی و چت‌بات‌ها را ـ از طریق داده‌هایی که خودمان داوطلبانه در اختیارشان قرار دادیم، کنترل و نظارت می‌کنند. البته نباید همه‌چیز را غیرقابل‌کنترل دانست؛ اینجا موضوع «اراده» انسانی امری تعیین‌کننده است.
این خود ما به‌عنوان کاربران این پلتفرم‌ها هستیم که می‌توانیم تصمیم بگیریم تمام لحظات زندگی‌مان را در این پلتفرم‌ها به‌اشتراک بگذاریم یا نگذاریم. ما می‌توانیم شخصی‌ترین احساسات‌مان را با چت‌بات‌ها در اختیار نگذاریم؛ می‌توانیم هر تصویری را درون پلتفرم‌ها به اشتراک نگذاریم؛ می‌توانیم برای استفاده از یک ابزار نه‌چندان ضروری، دسترسی به اطلاعات مهم راجع به خودمان و زندگی‌مان را به آن ابزار ندهیم.
بااینحال به‌دلیل وابستگی روزافزون به ابزارهای فناورانه، در عمل مقاومت در برابر عدم «اتصال» یا عدم «اشتراک داده» دشوار است؛ خصوصاً آنکه ممکن است برای یک فرد عادی این پرسش پیش بیاید که «حالا اگر داده‌های من را داشته باشد، چه اهمیتی دارد؟ چرا یک شرکت فناورانه باید برای کنترل من یا نظارت بر من تلاش کند؟». سوالی که پاسخ به آن مهم است. بااینحال پیش از طرح این پرسش، آگاهی از مخاطرات فناوری اهمیت دارد. اساساً اینکه فرد چنین پرسشی از خود بکند، یک گام به پیش است.
تحولات اجتماعی و سیاسی ناشی از فناوری، تدریجی است و همین می‌تواند منشأ غفلت ما از مخاطرات آن باشد. اقتدارگرایی و تمامیت‌خواهی به‌طور ناگهانی ظهور نمی‌کند؛ بلکه در یک فرآیند تدریجی محقق می‌شود. این تصور که روزی شرکت‌های بزرگ فناوری ما را کنترل کنند، شاید دور به‌نظر برسد اما در یک فرآیند تدریجی کاملاً ممکن است.
البته نباید فناوری‌هراسی کرد؛ ما وارد عصری شده‌ایم که نمی‌توان و نباید از فناوری دوری گزید. اما نحوه استفاده از فناوری و آگاهی از مخاطرات احتمالی آن، امری ضروری است که باید مرتب از آن گفت تا بلکه عموم کاربران این پلتفرم‌ها نسبت به آن، حساسیت بیشتری پیدا کنند؛ این وظیفه‌ای است که دانشگاهیان، متخصصان این حوزه و رسانه‌ها بیش از هرکس بر دوش دارند.
