آنچه هوش مصنوعی نمیداند/مدل‌های یادگیری ماشینی نظام‌های دانشی بومی را به حاشیه می‌برند و حالا خطر فروپاشی جهانی نزدیک است
بزرگ‌ترین تضاد برای من در نوشتن این مقاله این است که در حال متقاعدسازی خوانندگان به مشروعیت و اهمیت نظام‌های دانش بومی و محلی هستم، درحالی‌که خودم هنوز درباره معجون گیاهی پدرم مطمئن نیستم.
دیپاک واروول دنیسون پژوهشگر هوش مصنوعی
چند سال پیش، پدرم به یک تومور زبانی مبتلا شد. این موضوع ما را ناگزیر کرد که میان چند گزینه درمانی تصمیم‌گیری کنیم. خانواده ما در موضوعات پزشکی، ترکیبی غیرمعمول از چند رویکرد دارد: خواهر بزرگ‌ترم پزشکی مدرن و آلوپاتیک را فرا گرفته، اما پدر و مادرم اعتقاد عمیقی به درمان‌های سنتی دارند. من که در شهری کوچک در هند بزرگ شده‌ام، با آیین‌ها و سنت‌های درمانی بیگانه نیستم.
پدرم نیز عادت و رسم مخصوص به خودش را داشت. هربار که به روستای زادگاهش در جنوب تامیل‌نادو می‌رفتیم، از یک «وایتیار» ـ درمانگر سنتی در مکتب پزشکی سیدها ـ شیشه‌ای روغن غلیظ، با بوی تند با ترکیبی از گیاهان دارویی می‌گرفت. این کار برای او ارتباط‌گرفتن با پزشکی بومی و معتمد بود که سال‌ها او را می‌شناخت و باور داشت.
باتوجه به اینکه تومور پدرم بدخیم به‌نظر می‌آمد، پزشکان بیمارستان و خواهرم قویاً جراحی را توصیه می‌کردند. والدینم با این پیشنهاد مخالفت می‌کردند و نگران بودند که جراحی بر توانایی گفتاری‌اش تأثیر بگذارد. در چنین موقعیت‌هایی من معمولاً در نقش میانجی وارد عمل می‌شوم و مانند بسیاری از هم‌نسلانم، برای تصمیم‌گیری بهتر به اینترنت پناه بردم.
پس از اینکه چند روز تحقیق دقیق کردم، طبق معمول جانب خواهرم را گرفتم و گفتم، جراحی لازم است. اینترنت نیز توصیه ما را تأیید می‌کرد. سرانجام پدرم را قانع کردیم و حتی تاریخ جراحی هم تعیین شد. اما او بعدها بارداری خواهرم را بهانه کرد تا از جراحی طفره برود. ما مدام به او فشار می‌آوردیم که زودتر باید عمل کند اما او در خفا معجون گیاهی‌اش را مصرف می‌کرد. چندماه که گذشت، در کمال شگفتی دیدیم تومور کوچک و کوچک‌تر شد و سرانجام هم از بین رفت. این ماجرا برای پدرم به‌نوعی سندی بر حقانیت‌اش شد.
آن‌زمان این اتفاق را یک خوش‌شانسی نادر تلقی کردم، اما مدتی است از خود می‌پرسم آیا بیش از اندازه اعتقاد والدینم به طب سنتی را نادیده نگرفته بودم؟ آیا بی‌چون‌وچرا اقتدار منابع دیجیتال را نپذیرفته بودم؟ هنوز به‌سختی باور می‌کنم که داروهای گیاهی پدرم واقعاً اثر کرده باشند اما به این واقعیت نیز پی برده‌ام که اینترنت ظاهراً همه‌چیزدان، خلأهای بزرگی دارد و در جهانی که روزبه‌روز بیشتر به هوش مصنوعی وابسته میشود، این شکاف‌ها احتمالاً عمیق‌تر هم خواهند شد.
جالب‌تر اینکه شک و تردیدم درست در جریان پژوهش‌های دانشگاهی‌ام در آمریکا شکل گرفته است؛ جایی‌که فاصله بسیاری با دوران کودکی و محیط رشدم دارد که در آن روش‌های سنتی بخشی از زندگی روزمره بود. من در دانشگاه کرنل نیویورک مشغول بررسی و مطالعه درباره طراحی سیستم‌های هوش مصنوعی مسئولانه هستم و تحقیقاتم نشان داده‌اند که جهان دیجیتال بازتاب‌دهنده نابرابری‌های عمیق در دسترسی به دانش است و این نابرابری‌‌ها با ظهور هوش مصنوعی مولد (GenAI) بیش‌ازپیش تشدید میشود.
اینترنت اولیه عمدتاً تحت سلطه زبان انگلیسی، موسسه‌ها و نهادهای غربی بود و هرچه هم گذشت این بی‌توازنی تثبیت شد. تاآنجا‌که بخش‌های زیادی از دانش و تجربه انسانی هرگز دیجیتالی نشدند. اکنون با رشد هوش مصنوعی مولد که براساس همین داده‌های موجود آموزش می‌بیند، این شکاف ممکن است برای همیشه تثبیت شود.
هوش مصنوعی برای بسیاری به مهم‌ترین ابزار شناخت جهان تبدیل شده است. دو ماه پیش مطالعه‌ای گسترده درباره نحوه استفاده مردم از چت‌جی‌پی‌تی از زمان عرضه‌اش در نوامبر ۲۰۲۲ منتشر شد که نشان می‌دهد، تقریباً نیمی از پرسش‌ها برای دریافت راهنمایی عملی یا کسب اطلاعات بوده است.
اگرچه این سیستم‌ها ممکن است بی‌طرف به‌نظر برسند، اما واقعیت این است که آنها چنین نیستند. مدل‌های محبوب، شیوه‌های غالب و غالباً غربی و نهادی دانستن را تقویت می‌کنند و روش‌های جایگزین را به حاشیه می‌رانند. به‌ویژه دانش‌هایی که در سنت‌های شفاهی، میراث‌ها و تجربه‌‌‌محورند یا زبان‌هایی مانند هندی یا سواحیلی که منابع دیجیتال محدود دارند. رویه فعلی و تقویت سازوکار و سلسله‌مراتب فعلی این خطر را در پی دارد که نظام‌های دانشی که طی قرن‌ها شکل گرفته‌اند به‌دست فراموشی سپرده شوند و نسل‌های آینده را از تاریخی بلند و طولانی از تلاش‌های خردورزانه، بینش‌ها و دانش‌هایی مکتوب‌نشده محروم کنند.
نظام‌هایی که بنیادهای ضروری برای شناخت انسانی‌‌اند. بنابراین آنچه در خطر است، فقط بازنمایی نیست، بلکه انعطاف‌پذیری و تنوع خود دانش است. هوش مصنوعی مولد بر داده‌های عظیمی از متن‌ها شامل کتاب‌ها، مقالات، وب‌سایت‌ها و نسخه‌های پیاده‌شده آموزش می‌بیند. به‌همین‌دلیل به آن مدل زبانی بزرگ (LLM) می‌گویند. این داده‌ها هرگز تمام دانش بشری را پوشش نمی‌دهند و در آنها فرهنگ‌های شفاهی و بسیاری زبان‌ها یا کم‌بسامدند یا اصلاً وجود ندارند.
برای درک اهمیت این موضوع، باید بدانیم که زبان‌ها، حامل دانش‌اند. هر زبان، جهان کاملی از تجربه‌ها و بینش‌های انسانی را در خود دارد؛ آیین‌ها و سنت‌هایی که جوامع را شکل می‌دهند، شیوه‌های منحصربه‌فرد دیدن زیبایی و خلق هنر، شناخت محیط‌های طبیعی و نظام‌های بومی، دیدگاه‌های فلسفی و نگرش‌های معنوی، نظام واژگانی تجربه‌های درونی، مهارت‌ها و تخصص‌های گوناگون، چارچوب‌های اجتماعی و عدالت، حافظه جمعی و روایت‌های تاریخی، سنت‌های درمانی و شبکه‌های پیچیده روابط اجتماعی. وقتی سیستم‌های هوش مصنوعی به‌میزان کافی به یک زبان توجه نکنند، در درک تجربه انسانی نقاط کور ایجاد میشود. داده‌های Common Crawl، یکی از بزرگ‌ترین منابع عمومی داده‌های آموزشی، پرده از نابرابری‌های آشکاری برداشته است.
این مجموعه بیش از ۳۰۰ میلیارد وب‌سایت را در طول ۱۸ سال بررسی کرده و نتیجه این بوده؛ زبان انگلیسی که حدود ۱۹ درصد جمعیت جهان با آن صحبت می‌کنند، سهمی ۴۵ درصدی از محتوا دارد و غالب است. بااین‌حال میان اندازه جمعیتی یک زبان و میزان نمایندگی آن در داده‌های آنلاین عدم‌تعادلی نگران‌کننده‌تر وجود دارد.به‌عنوان نمونه، هندی که سومین زبان پرکاربرد جهان است و حدود 7/5 درصد جمعیت دنیا به آن صحبت می‌کنند، تنها 0/2 درصد از داده‌های Common Crawl را دربرمی‌گیرد.
وضعیت برای تامیل، زبان مادری من، از این هم بدتر است. با وجود بیش از ۸۶ میلیون گویشور در جهان، این زبان تنها 0/04 درصد از داده‌ها را به خود اختصاص داده است. جالب اینکه در دنیای محاسبات، حدود ۹۷ درصد زبان‌های جهان در شاخه «کم‌منبع» طبقه‌بندی شده‌اند. این اصطلاح هنگامی که حوزه محاسبات فراتر می‌رود، گمراه‌کننده میشود. بسیاری از این زبان‌ها، میلیون‌ها گویشور دارند و میراث زبانی غنی و چندصدساله‌ای را منتقل می‌کنند، اما در فضای آنلاین یا مجموعه داده‌های دردسترس، به‌شدت کم‌بسامد نشان داده می‌شوند و سهم چندانی ندارند.
مطالعه‌ای در سال ۲۰۲۰ نشان داد که ۸۸ درصد زبان‌های جهان در فناوری‌های هوش مصنوعی به‌شدت نادیده گرفته شده‌اند و رساندن‌شان به سطح استانداردهای دیجیتال، اگر نگوییم غیرممکن است، تلاش‌های بسیار زیاد لازم دارد. برای روشن‌ترکردن نوع دانش‌هایی که ازدست‌می‌روند، کافی است به دانش محلی درباره زیست‌بوم توجه کنیم. یک دوست فعال محیط‌زیست به من گفته بود که ارتباط یک جامعه با اکولوژی محلی‌اش را می‌توان از نام‌های دقیق و جزئی‌ای دید که برای گیاهان بومی به‌کار می‌برد.
چون گونه‌های گیاهی اغلب منطقه‌ای یا منحصر به محیط خود هستند، دانشی هم که درباره آنها شکل می‌گیرد، محلی است. وقتی زبانی به حاشیه رانده میشود، نتیجه‌اش این است که دانش گیاهی موجود آن نیز غالباً ناپدید میشود. در جریان نگارش این مقاله، با افراد مختلفی درباره شکاف‌های زبانی در هوش مصنوعی مولد گفتوگو کردم، ازجمله دهاران آشوک، معمار ارشد در سازمان Thannal که به احیای تکنیک‌های ساختوساز طبیعی در هند می‌پردازد. او تأکید کرد که پیوند قوی‌ای میان زبان و دانش اکولوژیکی محلی وجود دارد و همین دانش هم شکل‌دهنده پایه و اساس دانش معماری بومی و سنتی است.
هژمونی فرهنگی در سنت‌های غربی
درحالی‌که ساختوساز مدرن عمدتاً مترادف با استفاده از بتن و فولاد است، روش‌های بومی ساخت بر استفاده از مواد موجود در محیط اطراف تکیه دارند. در میانه نگرانی‌ها درباره ساختوساز ناپایدار و انتشار بیش از اندازه کربن، دهاران فعالانه تلاش می‌کند که هنر ازدست‌رفته تولید بیوپلیمرها از گیاهان محلی را بازیابی کند. او بزرگ‌ترین چالش را این می‌داند که دانش یادشده عمدتاً مستندسازی نشده و به‌صورت شفاهی و از طریق زبان‌های بومی منتقل میشود. دانشی‌که اغلب در اختیار چند نفر از بزرگان جامعه است و با مرگ آنها، از بین می‌رود.
دهاران، تجربه‌ای را بازگو کرد که در آن فرصت یادگیری نحوه ساخت نوع خاصی آجر، بااستفاده از سنگ آهک را از دست داد؛ چراکه آخرین استاد دارای این دانش، فوت کرده بود.برای درک اینکه چگونه برخی شیوه‌های شناخت و دانستن به‌بهای ازبین‌رفتن دانش بومی به سلطه جهانی می‌رسند، می‌توان به مفهوم «هژمونی فرهنگی» آنتونیو گرامشی، فیلسوف ایتالیایی استناد کرد. گرامشی استدلال می‌کرد که قدرت، تنها از طریق زور یا کنترل اقتصادی حفظ نمی‌شود، بلکه با شکل‌دهی به هنجارهای فرهنگی و نظام باورها تثبیت میشود.
با گذر زمان، رویکردهای شناختی ریشه‌دار در سنت‌های غربی، عینی و جهان‌شمول در نظر گرفته شدند و دانش غربی را استانداردسازی کرده‌اند. تحولی‌که به قیمت پنهان ماندن و نادیده‌انگاری نیروهای تاریخی و سیاسی موثر بر آن تمام شده است. نهادهایی مانند مدارس، مؤسسه‌های علمی و سازمان‌های بین‌المللی توسعه نیز در تثبیت این سلطه نقش داشته‌اند. نکته این است که شیوه‌های دانستن تنها انتزاعی و ذهنی نیستند؛ آنها در اطراف ما حضور دارند و مستقیماً بر بدن و تجربه‌هایمان اثر می‌گذارند.
برای روشن‌شدن موضوع، بیایید ساختمان‌های بلند با نماهای شیشه‌ای در مناطق گرمسیری را در نظر بگیریم که با روش‌های بومی‌ساخت دهاران تفاوت دارد. اگر از ظاهر و زیبایی‌شناسی این ساختمان‌ها بگذریم، در لایه‌ای عمیق‌تر آنها را باید بازتاب سنتی دانست که در مدرنیسم معماری غرب ریشه دارد. طراحی اولیه آنها برای مناطق سرد و کم‌نور انجام شده بود و به‌دلیل بازده انرژی ادعاشده، تحسین می‌شد؛ به‌طوری‌که نور روز کافی را به داخل ساختمان می‌آورد و نیاز به روشنایی مصنوعی را کاهش می‌داد.
بااین‌حال وقتی این طراحی در مناطق گرمسیری اجرا میشود، به یک تناقض زیست‌محیطی بدل میشود. مطالعات نشان داده‌اند در مناطق دارای تابش شدید آفتاب، نماهای شیشه‌ای باعث بالارفتن دمای داخلی و نارضایتی حرارتی می‌شوند. حتی اگر از شیشه‌های مدرن نیز در این ساختمان‌ها استفاده کنیم، فایده‌ای ندارد. چراکه به‌جای صرفه‌جویی در انرژی، نیاز به مصرف بیشتر انرژی برای خنک نگه‌داشتن فضا دارند. بااین‌حال نماهای شیشه‌ای بدون توجه به اقلیم یا بافت فرهنگی به چهره مدرنیته شهری تبدیل شده‌اند. فرقی هم ندارد چه در سانفرانسیسکو باشند، چه در جاکارتا یا لاگوس.
استعمار همچنان ادامه دارد
اگرچه تمام این مثال‌ها مربوط به هند است و دلیل آن نیز تجربه شخصی و آشنایی خودم است، به تاریخ جهانی امپریالیسم و استعمار که نگاه کنید، سلسله‌مراتب‌هایی گسترده‌تر و ریشه‌دار را هم می‌بینید. لیندا توی‌وایی اسمیت، دانشمند مائوری در کتاب «استعمارزدایی از روش» تأکید می‌کند که استعمار با قطع ارتباط مردم با زمین، زبان، تاریخ و ساختارهای اجتماعی، نظام‌های دانش محلی و بنیان‌های فرهنگی و فکری آنها را به‌شدت مختل کرده است، اسمیت بیان می‌کند که فرآیندهای استعماری محدود به یک منطقه نیستند، بلکه بخشی از میراث گسترده‌ای هستند که همچنان شکل‌دهنده تولید و ارزش‌گذاری دانش است.
سیستم‌های دیجیتال و هوش مصنوعی مولد امروزین نیز براساس همین بنیاد تحریف‌شده ساخته شده‌اند. اخیراً با بخش پژوهشی شرکت مایکروسافت به‌نام Microsoft Research روی چند پروژه هوش مصنوعی مولد که برای جمعیت‌های غیرغربی طراحی‌شده، کار کردم. آنچه مشاهده کردم این بود که مدل‌های هوش مصنوعی اغلب زمینه‌های فرهنگی را نادیده می‌گیرند، دانش محلی را از قلم می‌اندازند و خیلی کم پیش می‌آید با نیازهای جامعه هدف، هم‌راستا باشند.
تحقیقات ما به‌وضوح نشان داد که مدل‌های هوش مصنوعی هم‌زمان با رمزگذاری سوگیری‌های موجود، دانش به‌‌حاشیه رانده‌شده را حذف می‌کنند.این تجربه همچنین مرا به درک دلایل فنی شکل‌گیری چنین نابرابری‌هایی در مدل‌ها نزدیک‌تر کرد. مشکل فراتر از کمبود داده‌های آموزشی است. ماهیت مدل‌های زبانی بزرگ به‌گونه‌ای است که ایده‌های آماری غالب را بازتولید و تقویت و یک حلقه بازخورد ایجاد کنند که دامنه دانش بشری قابل دسترس را محدود می‌کند.
می‌پرسید چرا چنین اتفاقی رخ می‌دهد؟ دلیل‌اش ساده است؛ بازنمایی داخلی دانش در یک مدل‌های زبانی بزرگ یکنواخت نیست. مفاهیمی که در داده‌های آموزشی برجسته‌تر یا وسیع‌تری از زمینه‌ها ظاهر می‌شوند با شدت بیشتری رمزگذاری می‌شوند. به‌عنوان مثال، اگر «پیتزا» به‌عنوان غذایی محبوب در مجموعه بزرگی از متون آموزشی بارها ذکر شده باشد، وقتی از مدل پرسیده میشود «غذای مورد علاقه‌ات چیست؟»، احتمال پاسخ «پیتزا» بالاتر است، زیرا این ارتباط از نظر آماری برجسته‌تر است.
در مدل‌های زبانی بزرگ غالباً الگوها یا ایده‌های غالب به‌گونه‌ای تقویت می‌شوند که نسبت‌های اصلی آنها را تحریف می‌کند. پدیده‌ای‌که به «تقویت الگو» شناخته میشود و برخلاف دانش‌های دیگر است که توزیع خروجی مدل لزوماً بازتاب‌دهنده فراوانی ایده‌ها در داده‌های آموزشی نیست.
کمتر همیشه حذف میشود
فرض کنید داده‌های آموزشی مربوط به علاقه به غذا شامل ۶۰ درصد اشاره به پیتزا، ۳۰ درصد اشاره به پاستا و ۱۰ درصد اشاره به بریانی باشد. ممکن است انتظار داشته باشیم که مدل در پاسخ به همان سؤال ۱۰۰ بار، دقیقاً همین توزیع را بازتولید کند. اما مدل‌های زبانی بزرگ، چنین نمی‌کنند. آنها تمایل دارند پاسخ رایج‌تر را بیش از حد تولید کنند.
ممکن است پیتزا بیش از ۶۰ بار ظاهر شود، درحالی‌که مثلاً بریانی، کمتر یا حتی حذف شود. این اتفاق به‌این‌دلیل رخ می‌دهد که مدل‌ها زبانی بزرگ برای پیش‌بینی محتمل‌ترین توکن بعدی (در اینجا به‌معنی کلمه یا بخش کلمه در یک توالی) بهینه‌سازی شده‌اند و این باعث میشود پاسخ‌های با احتمال بالا بیش‌ازحد برجسته شوند. این رمزگذاری نامتوازن با استفاده از یادگیری تقویتی مبتنی بر بازخورد انسانی (RLHF) بیشتر تحریف میشود؛ در این فرآیند، مدل‌های هوش مصنوعی مولد براساس ترجیحات انسانی تنظیم می‌شوند. نکته این است که ارزش‌ها و جهان‌بینی سازندگان به‌طور اجتناب‌ناپذیری در درون مدل‌ها نشانده میشود.
اگر از چت‌جی‌پی‌تی درباره یک موضوع بحث‌برانگیز بپرسید، پاسخ دیپلماتیکی دریافت خواهید کرد که انگار توسط هیئتی از وکلا و کارشناسان منابع انسانی تهیه شده است. پاسخی‌که به‌شکل غیرمعمولی این لحن را دارد که رضایت‌تان را جلب کند. اگر همان سؤال را از گروک، چت‌بات هوش مصنوعی شرکت اکس، بپرسید ممکن است با یک جمله طعنه‌آمیز پاسخ‌تان را بدهد، سپس برداشت سیاسی خاصی ارائه کند که مناسب ضیافت میلیاردرهای فناوری باشد. فشارهای تجاری نیز لایه دیگری به این فرآیند اضافه می‌کنند.
پردرآمدترین کاربران، حرفه‌ای‌های انگلیسی‌زبان که حاضرند ماهانه ۲۰ تا ۲۰۰ دلار برای اشتراک‌های پریمیوم AI بپردازند، به الگوی ضمنی «ابرهوش» تبدیل می‌شوند. این مدل‌ها در تولید گزارش‌های سه‌ماهه، کدنویسی به زبان‌های مورد علاقه جامعه بزرگ سیلیکون‌ولی و نوشتن ایمیل‌هایی که به هرم‌های شرکتی غربی احترام می‌گذارند، عملکردشان عالی است. درعین‌حال آنها به زمینه‌های فرهنگی که به کسب درآمد فصلی بیشتر مرتبط نباشد اهمیتی نمی‌دهند.
فروپاشی دانش نزدیک است
با این حساب جای شگفتی ندارد که اغلب مطالعات نشان می‌دهند که مدل‌های زبانی بزرگ ارزش‌ها و رویکردهای معرفت‌شناختی غربی را بازتاب می‌دهند. این مدل‌ها، اکثریت را در خروجی‌های خود بیش از حد نمایان می‌کنند، سوگیری‌هایشان را تقویت و برجسته می‌کنند و دقت‌شان در موضوعات مربوط به آمریکای شمالی و اروپا بیشتر است.
حتی در مواردی مانند توصیه‌های سفر یا داستان‌سرایی، مدل‌های زبانی بزرگ تمایل دارند محتوای غنی‌تر و جزئیات بیشتری برای کشورهای ثروتمند تولید کنند و در مقایسه با کشورهای فقیر، محتوا کمتر و سطحی‌تر است. علاوه بر این، هوش مصنوعی مولد قدرت و ظرفیت زیادی برای تقویت بازتاب سلسله‌مراتب دانشی شکل‌گرفته دارد و برهمین‌اساس نیز بر رفتار انسان‌ها تغییر می‌گذارند. ادغام خلاصه‌های AI در موتورهای جست‌وجو، همراه با رشد محبوبیت موتورهای جست‌وجوی مبتنی بر AI مانند پرپلکسیتی، این تغییر را نشان می‌دهد.
با پر شدن اینترنت از محتوای تولیدی هوش مصنوعی، لایه‌ای از ایده‌های پرطرفدار آنلاین ایجاد میشود و چرخه‌ای شکل می‌گیرد که فضای اینترنت تحت‌تأثیر خروجی‌های همین مدل‌ها قرار می‌گیرد. یعنی درحالی‌که اینترنت خود منبع اصلی دانش برای مدل‌های هوش مصنوعی است، در هر چرخه آموزش، مدل‌ها بیشتر به محتوای تولیدشده توسط هوش مصنوعی تکیه می‌کنند. این وضعیت خطر ایجاد چرخه بازخوردی را دارد که در آن ایده‌های غالب دائماً تقویت می‌شوند و دانش کمتر رایج یا تخصصی به حاشیه می‌رود.
پژوهشگر هوش مصنوعی، اندرو پیترسون، این پدیده را «فروپاشی دانش» توصیف می‌کند؛ محدودشدن تدریجی اطلاعات در دسترس و کاهش سطح آگاهی از دیدگاه‌های جایگزین یا کمتر شناخته‌شده. هنگامی‌که مدل‌ها براساس داده‌هایی آموزش می‌بینند که براساس خروجی‌های قبلی هوش مصنوعی شکل گرفته‌اند، دانش کم‌بازنمایی‌شده نیز کمتر مشاهده میشود.
دلیل این وضع نه کم ارزش بودن دانش، بلکه به این دلیل که کمتر به آنها ارجاع داده شده است. پیترسون همچنین درباره وضعیت «اثر چراغ خیابانی» هشدار می‌دهد. مشابه وضعیتی‌که در آن شخصی به‌دنبال کلید گمشده‌اش زیر چراغ خیابان را جست‌وجو می‌کند چون نور آنجا بیشتر است. در زمینه هوش مصنوعی، این یعنی انسان‌ها جست‌وجو را جایی انجام می‌دهند که آسان‌تر است، نه جایی‌که معنادارتر باشد. با گذر زمان، شکی نیست که چنین روندی به محدودشدن تدریجی و کاهش کیفیت پایه دانش عمومی می‌انجامد.
در سراسر جهان، هوش مصنوعی مولد به بخشی از نظام آموزش رسمی تبدیل شده‌اند. کشورها برای تولید محتوای یادگیری و پشتیبانی از آموزش خودآموز از هوش مصنوعی استفاده می‌کنند. تمام این‌ها به این معناست که در دنیایی که هوش مصنوعی به‌طور فزاینده‌ای میانجی دسترسی به دانش شده، نسل‌های آینده ممکن است ارتباط خود با گستره وسیعی از تجربه، بینش و خرد انسانی را از دست بدهند.
مصالحه با ساختارهای نهادی مرسوم
توسعه‌دهندگان هوش مصنوعی ممکن است استدلال کنند که چنین موضوعاتی صرفاً یک مسئله داده‌ای است و با واردکردن منابع متنوع‌تر به مجموعه داده‌های آموزشی قابل حل است. از نظر فنی ممکن است بتوان چنین کرد، اما چالش‌های مربوط به تأمین داده، اولویت‌بندی و بازنمایی بسیار پیچیده‌تر از راه‌حل ساده است.
به این نکته زمانی پی بردم که با یک مدیر ارشد که کارش توسعه چت‌بات هوش مصنوعی است، گفتوگو کردم. سیستمی که به بیش از ۸ میلیون کشاورز در آسیا و آفریقا، مشاوره‌های کشاورزی ارائه می‌دهد. مشاوره‌هایی که عمدتاً متکی به پایگاه‌های داده مشاوره‌های دولتی و سازمان‌های بین‌المللی توسعه‌ای است که ماهیت علمی و پژوهشی دارند. مدیر یادشده اذعان کرد که بسیاری از شیوه‌های محلی اثربخش چون مستند نشده‌اند، در پاسخ‌های چت‌بات لحاظ نمی‌شوند.
دلیل‌اش هم این نیست که توصیه‌های پژوهش‌محور همیشه درست یا بدون ریسک هستند، بلکه این است که تکیه بر منابع شناخته‌شده به‌عنوان گزینه‌ای ایمن‌تر دیده میشود و سازمان را از مسئولیت احتمالی محافظت می‌کند. به‌‌عبارتی دیگر، دانش محلی که از کانال‌های نهادی تأییدنشده، کنار گذاشته میشود.
بنابراین این تصمیم صرفاً فنی نیست؛ بلکه یک مصالحه است که تحت‌تأثیر ساختارهای نهادی اتخاذ میشود، نه‌صرفاً براساس آنچه مفید یا درست است. یافتن راه‌هایی برای تأیید دانش بومی در سیستم‌هایی که تاریخی طولانی از نادیده‌انگاری دارند، دشوار است. هرچند هوش مصنوعی مولد ممکن است به روند حذف دانش محلی شتاب می‌بخشد، ریشه این وضع جای دیگری است. واقعیت این است ساختارهای قدرت تثبیت‌شده مدت‌هاست روند نادیده‌نگاری و به‌حاشیه‌بردن دانش محلی و بومی را پیش می‌برند.
تراژدی جهانی نابودی دانش بومی و محلی
هوش مصنوعی مولد نیز این روند را به‌طرز چشمگیری تشدید می‌کند. اغلب ما ازبین‌رفتن دانش بومی را به‌عنوان یک تراژدی برای جوامع محلی می‌شناسیم ولی حقیقت این است که مخاطب و قربانی آن تمام جهانیان هستند. ناپدیدشدن دانش محلی، فقدانی کم‌اهمیت نیست؛ این یک اختلال در شبکه گسترده‌ای از فهم است که رفاه انسانی و اکولوژیکی را پشتیبانی می‌کند.
درست همان‌طور که گونه‌های زیستی برای بقا در محیط‌های محلی خاص تکامل یافته‌اند، نظام‌های دانش انسانی نیز با ویژگی‌های خاص هر مکان سازگار می‌شوند و در صورت بروز اختلال در آن پیامدهایی فراتر از نقطه مبدأ دارد. دود آتش‌سوزی‌ها از مرزها می‌گذرند، آب آلوده در خطوط ایالتی متوقف نمی‌شود، تغییرات اقلیمی و افزایش دما به مرزهای ملی توجهی ندارند، میکروب‌های عفونی در انتظار ویزا نمی‌نشینند و.. چه بخواهیم و چه نخواهیم، ما در نظام بوم‌شناختی مشترکی گرفتار شده‌ایم که زخم‌های محلی ناگزیر به دردهای جهانی تبدیل می‌شوند.
بزرگ‌ترین تضاد برای من در نوشتن این مقاله این است که در حال متقاعدسازی خوانندگان به مشروعیت و اهمیت نظام‌های دانش بومی و محلی هستم، درحالی‌که خودم هنوز درباره معجون گیاهی پدرم مطمئن نیستم. من درباره اینکه آیا دانش بومی در هر مورد واقعاً همان‌طور که ادعا میشود، عمل می‌کند یا خیر، شک دارم؛ به‌ویژه وقتی اینفلوئنسرها و سیاستمداران از این دانش به سطحی‌ترین شکل‌ممکن برای جلب‌توجه یا اهداف خاص بهره‌برداری می‌کنند. به همان اندازه هم نگرانم که اجازه دهیم این دانش ناپدید شود. ممکن است چیزی ارزشمند را از دست بدهیم و بعدها به ارزش واقعی آن پی ببریم. خسارت جانبی این روند چیست؟ فروپاشی اکولوژیکی که می‌توانستیم از آن جلوگیری کنیم؟
بحران اقلیمی شکاف‌های موجود در پارادایم‌های مسلط دانش را آشکار می‌کند. بااین‌حال توسعه‌دهندگان هوش مصنوعی قاطعانه معتقدند که فناوری آنها پیشرفت علمی را تسریع می‌کند و بزرگ‌ترین چالش‌های ما را حل خواهد کرد. واقعاً می‌خواهم باور کنم که آنها درست می‌گویند. اما چند پرسش هم باقی می‌ماند آیا می‌توانیم به این آینده فناورانه حرکت کنیم و درعین‌حال با سیستم‌های دانشی که پیش‌تر رد کرده‌ایم، به‌طور واقعی و با کنجکاوی فراتر از نمادگرایی تعامل داشته باشیم؟
یا اینکه همچنان با سلسله‌مراتب ساخته‌شده، فهم‌های مختلف را حذف خواهیم کرد و درنهایت خود را در تلاش برای استعمار مریخ می‌یابیم، چون هرگز یاد نگرفته‌ایم به کسانی گوش دهیم که می‌دانستند چگونه به‌طور پایدار روی زمین زندگی کنند؟ شاید هوشمندی‌ای که بیش از همه نیاز داریم، توانایی دیدن فراتر از سلسله‌مراتب‌هایی است که تعیین می‌کنند کدام دانش ارزش دارد. بدون این پایه، صرف‌نظر از صدها میلیارد دلاری که برای توسعه ابرهوش سرمایه‌گذاری می‌کنیم، همچنان سیستم‌های دانشی را حذف خواهیم کرد که شکل‌گیری‌شان نسل‌ها طول کشیده است.
من نمی‌دانم معجون‌های گیاهی پدرم واقعاً مؤثر بوده‌اند یا خیر، اما در حال آموختن این واقعیت هستم که به‌رسمیت شناختن چیزی که نمی‌دانم، شاید صادقانه‌ترین نقطه برای شروع باشد.
منبع: گاردین
