اما شعور ندارد

انسان، موجودی ابزارساز است. این ویژگی، ممیزه او از دیگر موجودات و عامل تسلط‌اش بر جهان است. از نخستین تبرهای سنگی تا پیچیده‌ترین رایانه‌ها، ابزارها همواره برای گسترش توانمندی‌های فیزیکی و ذهنی بشر به‌کار رفته‌اند. اما ظهور هوش مصنوعی به‌عنوان یکی از جدیدترین و پیشرفته‌ترین دستاوردهای فناوری، مسائلی اساسی را درباره جایگاه واقعی این ابزار، رابطه انسان با آن و خطرات انحراف از نحوه استفاده از آن پیش کشیده است. هوش مصنوعی در ذات خود، ابزاری برای پردازش داده‌ها و یافتن الگوهاست. این فناوری قادر است حجم عظیمی از اطلاعات را با سرعتی غیرقابل قیاس با انسان سازماندهی، تحلیل و ارائه کند.

جایگاه درست آن، همانند یک تلسکوپ قدرتمند برای ذهن است که دامنه‌دید ما را وسیع‌تر می‌کند. انحراف اصلی در استفاده از این ابزار، جایگزین کردن فرآیند تفکر و تحقیق با خروجی هوش مصنوعی است. هوش مصنوعی، دانش موجود را توزیع می‌کند، اما بر مرزهای علم نمی‌افزاید. این انسان است که با پرسشگری، خلاقیت و نگاه نقادانه، دایره دانسته‌ها را گسترش می‌دهد.  درک محدودیت هوش مصنوعی به‌عنوان یک ابزار در تمایز بین «هوش» و «شعور» نهفته است.

هوش مصنوعی دارای «هوش» (توانایی حل مسائل منطقی و پردازش داده) است، اما «شعور» ندارد. شعور، آن کیفیت انسانی است که حاوی درک عمیق از موقعیت، وجدان اخلاقی، همدلی و توانایی قضاوت در شرایط مبهم و فاقد داده کافی است.  همچنین تمایز بین هوش و شعور را می‌توان در تمایز بین «عقل حسابگر» و «عقلانیت حکیمانه» جست‌وجو کرد. هوش مصنوعی نمونه اعلای عقل حسابگر است.

توانایی شگفت‌انگیز در محاسبه، اندازه‌گیری و بهینه‌سازی دارد، اما فاقد «حکمت» است. «حکمت» توانایی قضاوت درست در موقعیت‌های خاص و متغیر زندگی انسانی، با در نظر گرفتن ارزش‌ها، اخلاق و خیر عمومی است. هوش مصنوعی داده را می‌بیند، اما «معنا» را درک نمی‌کند.  تمایز بین هوش و شعور در هوش مصنوعی، بازتابی از تمایز ارسطویی بین «تِکنه» (دانش فنی و ساخت) و «فرونزیس» (خرد عملی یا دوراندیشی) است. هوش مصنوعی تجسم «تِکنه» است. او در به‌کارگیری ابزارهای منطقی برای رسیدن به یک هدف از پیش تعیین‌شده مانند پیروزی در بازی شطرنج یا تولید یک متن استاد است.

اما این هدف را خود تعیین نمی‌کند. «شعور» انسانی، همان «فرونزیس» است: فرونزیس، خردی است که با فضیلت اخلاقی، درک موقعیت‌های منحصربه‌فرد و قضاوت درباره زندگی خوب گره خورده است. هوش مصنوعی فاقد فرونزیس است؛ زیرا نمی‌تواند مسئله «چه باید کرد؟» را در موقعیت‌های پیچیده انسانی، که پاسخ‌شان در داده‌های محض نیست، حل کند. هوش مصنوعی می‌تواند تمام قواعد اخلاقی را بخواند، اما نمی‌تواند مانند یک انسان در موقعیتی تراژیک، «قضاوت اخلاقی» کند. محدودیت دیگر هوش مصنوعی، در عدم‌برخورداری از «شهود» است.

هوش مصنوعی بر پایه «استدلال» (برمبنای داده‌های موجود) عمل می‌کند. اما بسیاری از کشفیات بزرگ علمی و ابداعات هنری، حاصل جرقه‌های شهودی هستند که از جایی فراتر از داده‌های ساختاریافته می‌آیند. شهود، توانایی درک مستقیم و بی‌واسطه یک حقیقت بدون استدلال آشکار است. این همان نیرویی است که به دانشمند اجازه می‌دهد فرضیه‌ای را دنبال کند که داده‌ها به‌طورکامل از آن حمایت نمی‌کنند. هوش مصنوعی فاقد این ویژگی است. می‌تواند به ما در مرتب‌کردن و نظم‌بخشیدن به دانسته‌ها کمک کند، اما نمی‌تواند از حجم نادانسته‌ها بکاهد.

  این بحث‌ ما را به «اخلاق تکنولوژی» می‌رساند. مسئولیت اخلاقی ما این است که مطمئن شویم تکنولوژی، به‌ویژه تکنولوژی قدرتمندی مانند هوش مصنوعی، بر زندگی انسان حکومت نمی‌کند، بلکه در خدمت آن است. نباید الگوریتم‌ها به‌جای آنکه ابزاری برای تسهیل انتخاب‌های ما باشند، به تعیین‌کننده ترجیحات، باورها و رفتارهای ما مبدل شوند. خطر بزرگ هوش مصنوعی، ایجاد یک «نابالغی خودخواسته» جدید است.

اگر ما به‌جای تفکر انتقادی و تحقیق شخصی، به خروجی هوش مصنوعی به‌عنوان یک حقیقت و پاسخی قطعی تکیه کنیم، درواقع از بلوغ فکری سرباز زده‌ایم. خطر این است که هوش مصنوعی می‌تواند به مرجعی تبدیل شود که ما را از زیربار مسئولیت اندیشیدن برهاند، درست مانند نابالغی که ترجیح می‌دهد تحت‌نظر یک قیم بیاندیشد. هرچند هوش مصنوعی یک دستاورد شگفت‌انگیز است، اما باید جایگاه واقعی آن را به‌عنوان یک ابزار حفظ کرد.

این فناوری، کتابدار و دستیار کمکی فوق‌العاده‌ای است، اما نه متفکر، نه خالق و نه جانشینی برای وجدان اخلاقی و شهود انسانی. رویکرد درست این است که با آگاهی از محدودیت‌های ذاتی آن، از افتادن در دام انفعال فکری و تفویض حاکمیت زندگی به الگوریتم‌ها بپرهیزیم.

به کانال تلگرام هم میهن بپیوندید