فراتر از انسان

سینا فلاح‌زاده راسته‌کناری:‌ روزی نیست که یک پیشرفت علمی یا تکنولوژیکی چشمگیر در عرصه هوش مصنوعی در سرخط اخبار علمی نباشد. اخبار اخیر استفاده از هوش مصنوعی برای تولید علم از سایر اخبار جذاب‌ترند؛ چرا‌که نشان می‌دهند هوش مصنوعی می‌تواند در وظیفه فهم جهان که زمانی نه‌چندان دور ویژگی منحصربه‌فرد فاهمه انسانی به حساب می‌آمد، دخالت مؤثر داشته باشد. حدود چهار قرن پیش وقتی «فرانسیس بیکن» سخن از استفاده از اصل استقرا برای فهمیدن الگوهای کلی حاکم بر طبیعت به میان می‌آورد، شاید کسی تصورش را هم نمی‌کرد که زمانی داده‌هایی که دانشمندان برای یافتن الگوها در اختیار دارند، آن‌قدر پیچیده و گسترده و فراوان باشد که دیگر قوی‌ترین ذهن‌ها هم از تشخیص هر الگویی در آنها ناتوان باشند. در چنین شرایطی مکانیکی‌کردن استخراج قوانین طبیعت از داده‌ها، با استفاده از کامپیوترها و الگوریتم‌های هوش مصنوعی یک انتخاب کاملا معقول است. فرض کنید بخواهیم بدانیم تأثیر نوسانات فشار خون یا کمبود ویتامین D در وضعیت عمومی و میزان مرگ‌ومیر بیماران مبتلا به کرونا که در بیمارستان‌ها بستری می‌شوند، چگونه است. در‌این‌صورت با داده‌های فشار خون و نتایج آزمایش‌های صدها‌ هزار بیمار که در اقصانقاط جهان گردآوری شده‌اند، روبه‌رو هستیم. بدون کمک کامپیوترها و هوش مصنوعی تشخیص الگوهایی که به کمک پیش‌بینی وضعیت بیماران در آینده بیاید، غیرممکن است.

انتظارات نخستین ما

اما این یک مثال ساده از نحوه کار هوش مصنوعی و الگوریتم‌های حیرت‌انگیز آن است. در این‌ مثال به‌سادگی با موردی طرفیم که به علت محدودیت زمان و حوصله و انرژی از توانایی عاملیت انسانی خارج است. در این حالت کاری را که ممکن بود صدها هزار نفر را به دردسر و اشتباه بیندازد و خسته کند، به یک کامپیوتر می‌سپاریم که با توجه به الگوریتم‌هایی که به آن می‌دهیم، نه خسته می‌شود و نه «اشتباه» می‌کند. در همین مورد که آن را ساده قلمداد کردیم، هم پیچیدگی‌های فراوانی پیش می‌آید. ممکن است دو الگوریتم متفاوت دو نتیجه متفاوت و حتی متنافر تولید کنند. این مشکل در سال‌های اخیر و با توجه به استفاده روزافزون از «استقرای مکانیکی بیکنی» در حیطه هوش مصنوعی واقعا دامن‌گیر بسیاری از دانشمندان عرصه‌های گوناگون شده است. ضرورت تقویت روش‌های تولید علم و شناخت الگوهای حاکم بر طبیعت، بیش‌از‌پیش احساس می‌شود و کمی از خوش‌بینی‌های اولیه که برای مثال در دهه نود میلادی در‌این‌باره وجود داشت، کاسته شده است؛ اما این کارهای بسیار مهم و حیرت‌انگیز که هوش مصنوعی می‌تواند برای ما انجام بدهد، هنوز در مقابل اصل آنچه درمورد هوش مصنوعی در نظر داشتیم، بسیار کوچک هستند. هوش مصنوعی از همان میانه سده بیستم، یعنی از آغاز تولدش پروژه بسیار جاه‌طلبانه‌ای در سر داشت و آن هم رسیدن به حالتی بود که تمام آنچه را ذهن و روان انسان قادر به درک انجام آن هستند، انجام بدهد: پردازش زبان طبیعی، بازشناسی گفتار و دید ماشینی و (پس از آن به‌تدریج) ده‌ها کارکرد ریز و درشت دیگر که به فاهمه و ذهن بشر نسبت داده می‌شد و می‌شود؛ اما ادامه کار به این راحتی نبود: برای شبیه‌سازی ذهن و فاهمه انسان باید می‌دانستیم که ذهن انسان خودش آن کارها را چگونه انجام می‌دهد. بسیار ساده‌انگارانه بود اگر دانشمندان فکر می‌کردند که نحوه کارکرد ذهن انسان را می‌دانند؛ چرا‌که هنوز هم با بیش از شش دهه تجربه در آن عرصه سؤالات اساسی فراوانی بی‌جواب مانده‌اند. البته ماهیت اصلی علم و تکنولوژی به گونه‌ای است که پرسش‌های بزرگ و بی‌جواب‌مانده و مسائل دشوار به جای آنکه خاصیت فلج‌کننده و محدودکننده داشته باشند، بیشتر باعث پیشرفت و رونق عرصه‌های گوناگون می‌شوند. اگر در اواسط قرن بیستم از یک دانشمند انفورماتیک و علوم تازه‌تأسیس کامپیوتر می‌پرسیدید که ذهن ما چگونه جهان را می‌فهمد، احتمالا دیدگاهی شبیه فیلسوفان تحلیلی قرن بیستم را به شما تحویل می‌داد: برای مثال ممکن بود به شما بگوید که ما جهان را محدوده زبان بشری می‌فهمیم و زبان بشری شامل جمله‌ها و گزاره‌هاست و جملات و گزاره‌ها هم شامل یک‌سری نمادها هستند که برای رمزگذاری حالات امور واقعی و ممکن مورد استفاده قرار می‌گیرند. پس پردازش زبان طبیعی احتمالا با استفاده از پردازش نمادها ممکن است. کاری که حتی کامپیوترهای اولیه در انجام آن بسیار عالی عمل می‌کردند.

فراتر از پروژه کلاسیک: ورود مؤثر فیلسوفان

اما این تمام ماجرا نبود. از آنجایی که متخصصان هوش مصنوعی دائم در حال همکاری با فیلسوفان و منطق‌دانان تراز یک جهان بودند، با توجه به پیشرفت مباحث در زمینه فلسفه علم و آگاهی به‌تدریج مشخص شد که دیدگاه اولیه در مورد ماهیت ذهن و زبان انسان نارسایی‌هایی دارد. یکی از معروف‌ترین این مباحث یک استدلال بسیار مشهور از فیلسوف مشهور آمریکایی «جان سرل» موسوم به «استدلال اتاق چینی» بود که در سال ۱۹۸۰ ارائه شد و این نکته را پیش می‌کشید که کامپیوترهای نحوی کلاسیک هر قدر هم پیشرفته و درست عمل کنند باز هم بنا بر درک شهودی‌ای که ما از «فهمیدن» داریم چیزی نمی‌فهمند و ایجاد هوش مصنوعی قوی از این جهت ناممکن است. برخی از منطق‌دانان با استفاده از «قضایای ناتمامیت گودل» پروژه هوش مصنوعی قوی را به چالش کشیدند. این قضایا که توسط «کورت گودل» در سال ۱۹۳۱ اثبات شده بودند، ناظر بر ناممکن‌بودن ارائه یک دستگاه اصل موضوعی کامل برای ریاضیات بر اساس «برنامه هیلبرت» بودند. «قضایای ناتمامیت گودل» نشان می‌داد برنامه «هیلبرت» برای یافتن مجموعه‌ای کامل و سازگار از اصول موضوع برای کل ریاضیات محکوم به شکست است. گروهی از فیلسوفان و دانشمندان علوم شناختی و فلسفه ذهن این قضایای مهم منطق ریاضی را در شناخت نحوه کارکرد مغز انسان هم ذی‌‌مدخل می‌دانند. این بسیار طبیعی است که بعد از دهه‌ها تلاش اکثرا موفق برای پیشرفت در علوم کامپیوتر و هوش مصنوعی فکر کنیم که مغز انسان هم نوعی کامپیوتر است. در واقع این مسئله نتیجه این پیشرفت‌ها نیست، بلکه به نوعی پیش‌فرض شروع این مباحث و تلاش‌هاست. در واقع دیدگاه محاسباتی در مورد ذهن یک مبحث جدی و دامنه‌دار در فلسفه ذهن و آگاهی معاصر بوده است.

سایه «هایدگر»: «میراث دریفوس»

این مسئله به مناقشات فلسفی فراوانی دامن زد. یک مثال معروف در فلسفه و علوم شناختی معاصر کتاب «آنچه کامپیوترها نمی‌توانند انجام دهند» نوشته «هیوبرت دریفوس» فیلسوف معاصر آمریکایی است که در اوایل دهه 70 میلادی منتشر شد. «دریفوس» با توجه به آنچه از فلسفه قاره‌ای و به‌خصوص پدیدارشناسی «هوسرل» و مخصوصا «هایدگر» آموخته بود، پیش‌فرض‌های نظریه محاسباتی ذهن را که پروژه هوش مصنوعی کلاسیک بر اساس آنها بنا شده بود، در معرض پرسش قرار داد. او ۲۰ سال بعد از آن در اوایل دهه 90 میلادی ویراست تازه‌تری از کتاب خود منتشر کرد و عنوان آن را «آنچه کامپیوترها هنوز نمی‌توانند انجام دهند» قرار داد. هوش مصنوعی کلاسیک که بر محاسبات نحوی و منطقی و نظریه محاسباتی ذهن استوار بود، تأکید ویژه‌ای بر فهم منطقی از جهان در قالب گزاره‌های یک زبان ایدئال داشت. پیش‌فرض‌های مربوط به این دیدگاه با فهم هایدگری «دریفوس» از انسان به‌مثابه «در-جهان-بودگی»

 (In-der-Welt-Sein) خوانایی نداشت. «دریفوس» معتقد بود واقعیتی که انسان‌ها به صورت هرمنوتیکی می‌فهمند به‌سادگی به مجموعه‌ای از گزاره‌هایی که حالات امور را رمزگذاری می‌کنند قابل تحویل نیست. البته با توجه به پیشرفت‌هایی که در «شبکه‌های عصبی مصنوعی» داشتیم در اوایل هزاره جدید میلادی مشخص شد «دریفوس» تا حدود زیادی برحق بوده است.

شبکه‌های عصبی مصنوعی

از دهه 70 میلادی به‌تدریج جریان‌هایی در تکنولوژی هوش مصنوعی شروع شدند که به‌‌جای تأکید روی ماهیت منطقی و نحوی فاهمه بر روی الگوبرداری از ساختار فیزیکی مغز تمرکز داشتند. این جریان‌ها به ظهور و پیشرفت شبکه‌های عصبی مصنوعی و غلبه آنها بر سیستم‌های پردازش سمبولیک منجر شدند. این شبکه‌ها برخلاف سیستم‌های کلاسیک قابلیت آموزش‌دیدن داشته و از این جهت شباهت جالبی با نحوه کارکرد مغز انسان دارند. نسخه‌های امروزی‌تر این سیستم‌ها شامل شبکه‌هایی با قابلیت یادگیری عمیق (deep learning) هستند که امکانات گسترده‌ای در اختیار طراحان شبکه‌های هوش مصنوعی قرار می‌دهند. بسیاری از پیشرفت‌های حیطه هوش مصنوعی در دو دهه اخیر نشان از پیروزی دیدگاه «هیوبرت دریفوس» داشت. البته هنوز هم می‌توان دید که شکاف‌هایی میان آنچه ما از انسان‌بودن می‌فهمیم و قابلیت‌های هوش مصنوعی وجود دارد. روان‌شناسی هوش مصنوعی و نیز فلسفه آن با جدیت تمام پیگیر شباهت‌ها و تفاوت‌های ذهن و روان انسان و «ذهن و روان» سیستم‌های هوش مصنوعی هستند. سیستم‌های دارای هوش مصنوعی و ربات‌های مدرن در هر عرصه‌ای که پا می‌نهند قابلیت‌ها و ظرفیت‌هایی بسیار فراتر از آنچه برای انسان‌ها قابل تصور است از خود نشان می‌دهند. اما پرسش بزرگ در مورد «آگاهی پدیداری» این سیستم‌ها هنوز هم در میان است. اینکه آیا این سیستم‌های بسیار هوشمند می‌توانند چیزی شبیه آگاهی پدیداری انسان داشته باشند یا نه. از آنجایی که خودآگاهی پدیداری تا حدود زیادی برای ما رازآمیز است، پرسش مدنظر در مورد ربات‌های هوشمند نیز قابلیت تعمیم دارد. شاید کمی ناامیدکننده باشد، ولی در مورد مسئله آگاهی پدیداری ربات‌ها هنوز جواب مشخصی نداریم.

هوش مصنوعی و اراده آزاد

وضعیت پرسش اراده آزاد در مورد ربات‌ها از وضعیت پرسش آگاهی ربات‌ها به مراتب بدتر است. در مورد آگاهی و ذهن دست‌کم این‌قدر می‌دانیم که ما ذهن و آگاهی و حتی آگاهی پدیداری داریم پس مسئله تبدیل به این می‌شود که در چه صورت می‌توان ادعا کرد که ربات‌ها و سیستم‌های هوش مصنوعی هم دارای آگاهی هستند. اما در مورد اراده آزاد وضع به گونه‌ای دیگر است: ما به‌درستی نمی‌دانیم که خودمان اراده آزاد داریم یا نه! کم نیستند کسانی که فکر می‌کنند با توجه به تعین‌گرایی علیتی (causal determinism) و قوانین طبیعت شهودهای ما در مورد داشتن اراده آزاد کاملا از سنخ توهمند. گروه دیگری از فیلسوفان (مشهور به سازگاری‌گرایان) قائل به این هستند که تعین‌گرایی با وجود اراده آزاد سازگار است و گروهی دیگر برخلاف این موضع استدلال می‌کنند. این مباحثات درازدامن هنوز با شدت و حرارت ادامه دارند و به نظر می‌رسد که هنوز تا رسیدن به خروجی‌های قابل اطمینان و رفع ابهامات اساسی راه درازی در پیش است. بنابراین طبیعی است که مکانیزم شناخته‌شده‌ای نداریم که با قراردادن آن در دل الگوریتم‌های هوش مصنوعی بتوانیم ادعا کنیم ربات‌ها و عامل‌های دارای هوش مصنوعی اراده آزاد دارند چراکه ممکن است داشتن اراده آزاد به معنی فقدان قانون به‌وجودآورنده تعین و توانایی دورزدن هر گونه «مکانیزم» از پیش تعیین‌شده باشد! بنابراین پاسخ به پرسش اراده آزاد ربات‌ها وابسته به شبکه گسترده‌ای از پرسش‌های فلسفی و فیزیکی و عصب‌شناختی در مورد خود اراده آزاد است آنچه که اکنون می‌دانیم این است که هنوز راه درازی مانده تا به ربات‌هایی برسیم که بتوانیم دارابودن اراده آزاد را در مورد آنها ادعا کنیم.

ربات‌های اخلاق‌مدار

بنا بر درک شهودی‌ای که از مسئولیت اخلاقی داریم اگر مطمئن نباشیم که موجودی اراده آزاد دارد به سختی می‌توانیم آن موجود را (چه انسان باشد و چه حیوان و ربات) از لحاظ اخلاقی مسئول عملکرد خود بدانیم. بنابراین تا اطلاع ثانوی هیچ دادگاهی یک ربات را به خاطر ارتکاب به جرائم مختلف محاکمه نخواهد کرد، اما کماکان امکان این وجود دارد که «صاحبان و کنترل‌کنندگان» آن ربات‌ها را مجبور به خاموش کردن آن ربات‌ها یا تغییر برنامه‌های آنها کنند. با این وجود اخلاق ربات‌ها که شامل دستوراتی برای ساختن و استفاده از ربات‌ها توسط عامل انسانی است از همان اواسط قرن بیستم بسیار جدی گرفته می‌شد. دلیلش هم این بود که همه به‌خوبی می‌دانستند که با پیشرفت این تکنولوژی سر از کجاها ممکن است دربیاوریم.

آخر زمان رباتی

یکی از سناریوهای علمی‌-تخیلی درباره پایان تمدن بشری و انقراض انسان، خروج ربات‌های بسیار هوشمند از کنترل انسان و سوارشدن آنها بر مرکب تاریخ با کنارزدن انسان است. درست است که نمی‌دانیم ربات‌ها نهایتا می‌توانند آگاهی پدیداری و اراده آزاد داشته باشند یا نه، اما آنها تقریبا در هر موردی توانایی و ظرفیت بیشتری از انسان‌ها دارند. این یعنی اینکه حتی اگر نتوانیم با ربات‌ها مانند عامل انسانی رفتار کنیم باز هم باید درباره شورش احتمالی آنها (ولو اینکه صرفا ماشین‌هایی هوشمند و فاقد عاملیتی مانند انسان باشند) نگران باشیم. از این جهت اغراق نیست اگر بگوییم فناوری هوش مصنوعی از تسلیحات کشتارجمعی هم پتانسیل خطر بیشتری دارند. سلاح‌های کشتارجمعی سازه‌هایی منفعل در سیلوها هستند که برای فعال‌شدن منتظر حماقت عامل انسانی هستند اما ربات‌های بسیار هوشمند این‌گونه نیستند. آنها حتی اگر صرفا ماشین باشند قابلیت این را دارند که با خروج از کنترل «سرخود» اتفاقاتی را رقم بزنند که به شدت برای نوع بشر خطرناک باشد. روشنگری در این مورد وظیفه اخلاق تکنولوژی است و حدود مشخصی در مورد توانایی‌های هوش مصنوعی همواره باید پیش چشم مهندسان و دانشمندان باشد. گسترش هوش مصنوعی ممکن است شبیه بازی با نوع بسیار خطرناکی از آتش باشد و حالا که در دوران گسترش سریع این تکنولوژی هستیم بهتر است تمام موارد ایمنی با دقت رعایت شوند. از همین حالا بهتر است به فکر این باشیم که ربات‌هایی که می‌سازیم به اندازه کافی اخلاق‌مدار و انسان‌دوست باشند و آن بلایی را که انسان‌ها در ۵۰ هزار سال اخیر سر بقیه گونه‌های جانوری آورده‌اند سر خود انسان نیاورند.