هوش مصنوعی، زیست‌فناوری و آینده ما
مخاطرات هوش مصنوعی
موجِ پیش‌روی فناوری چه معنا و پیامدهایی برای بشریت دارد؛ نویسندگان کتاب «موج پیش‌رو» می‌کوشند با بررسی تحولات حوزه هوش مصنوعی و زیست‌فناوری، این مسئله را واکاوی کنند. از نظر مصطفی سلیمان و مایکل باسکار، ما اکنون در یکی از نقاط عطف تاریخ و بزنگاهی قرار داریم که موجی از فناوری شگرف شامل هوش مصنوعی پیشرفته و بیوتکنولوژی یا زیست‌فناوری پیش‌روی ماست.
شرق: موجِ پیش‌روی فناوری چه معنا و پیامدهایی برای بشریت دارد؛ نویسندگان کتاب «موج پیش‌رو» می‌کوشند با بررسی تحولات حوزه هوش مصنوعی و زیست‌فناوری، این مسئله را واکاوی کنند. از نظر مصطفی سلیمان و مایکل باسکار، ما اکنون در یکی از نقاط عطف تاریخ و بزنگاهی قرار داریم که موجی از فناوری شگرف شامل هوش مصنوعی پیشرفته و بیوتکنولوژی یا زیست‌فناوری پیش‌روی ماست.
اما چندان معلوم نیست چشم‌اندازی که این تحولات ترسیم می‌کند، چه پیامدهای ناخواسته یا مخاطراتی برای انسان و کلیت اِکوسیستم‌های طبیعی به بار آورد. نویسندگان، «موج پیش‌رو» را خوشه نوظهوری از فناوری‌های مرتبط و مبتنی بر هوش مصنوعی و بیولوژی مصنوعی تعریف می‌کنند که کاربردهای تحول‌آفرین آنها، توانمندی‌های بی‌سابقه‌ای برای بشر به ارمغان آورده‌اند، در عین حال مخاطرات و ریسک‌هایی به دنبال دارند.
نویسندگان با طرح اسطوره سِیل در تاریخ و فرهنگ‌های مختلف، وضعیت کنونی رشد و فراگیری فناوری را ترسیم می‌کنند. آنان از «حماسه گیلگمش» نقل می‌آورند که خداوند اسطوره‌ای همه عالم را در سِیلی سهمگین فرو می‌برد، روایتی که یادآور روایت کشتی نوح در عهد عتیق است. همچنین به افلاطون ارجاع می‌دهند که از شهر گمشده آتلانتیس سخن گفته که با سِیلی سهمگین با خاک درآمیخت. بنابراین، پندار سِیل بنیان‌کن که همه‌چیز را در مسیر خود از بین می‌برد و به‌جای آن جهانی نو بنا می‌کند، در تاریخ شفاهی انسان و مکتوبات باستانی ریشه‌های عمیق دارد.
ظهور و گسترش فناوری‌ها نیز در نظر نویسندگان کتاب «موج پیش‌رو» به همین موج‌ها و سیل‌های دگرگون‌کننده شباهت دارد. «تاریخ با روایت شورانگیزی از موج‌های فناوری عجین است، و گسترش موج‌گونه فناوری، داستان انسانِ فناور است. تلاش بی‌وقفه نوع بشر برای بهترشدنِ خودش، هم‌نوعانش، ظرفیت‌هایش، و تأثیراتش بر محیط زیست، به سیر بی‌امان تکامل ایده‌ها و پندارها و مسیر آفرینش نیرو بخشیده است» اما مسئله اینجاست که در آینده چه خواهد شد.
دو فناوری بنیادین که در این کتاب بر پیامدها و مخاطرات آنها تأکید شده است، هوش مصنوعی و بیولوژی مصنوعی است که پایه‌های اصلی موج پیش‌رو هستند. این دو فناوری به قولِ سلیمان و باسکار، دست در دست هم طلیعه بامدادی تازه را نوید می‌دهند که سرآغاز خلق ثروت و ره‌آوردهای تازه‌ای است که در تاریخ بشر سابقه نداشته است. اما گسترش پرشتاب همین فناوری‌ها به گروه‌هایی از افراد تبهکار و فرصت‌طلب این امکان را می‌دهد تا توفانی از آشوب و اختلال و بی‌ثباتی ایجاد کنند.
در هر صورت، این موج پیش‌رو که ممکن است چالش‌های بسیاری همراه داشته باشد، آینده بشر را خواهد ساخت. به بیان دیگر، آینده ما وابسته به این فناوری‌ها است، در عین حال، آینده در معرض تهدید و خطر این فناوری‌ها قرار دارد. هشدار نویسندگان «موج پیش‌رو» این است که به نظر می‌رسد مهار این موج و کنترل و تحدید یا توقف آن امری ناممکن است. این واقعیت انکارناپذیر مبنای کتابی است که به پیامدهای گسترش مهارناپذیر فناوری می‌پردازد.
««موج فناوری‌های پیش‌رو، تاریخ بشری را به نقطه عطفی سوق می‌دهد که اگر مهار این موج ناممکن شود، تبعاتِ ژرف و بالقوه شوم و هراس‌انگیزی برای گونه انسان به بار خواهد آورد» طرفه آنکه به همین اندازه، محروم‌شدن از ثمرات فناوری ما را در وضعیتی بی‌پناه و متزلزل قرار خواهد داد. به هر تقدیر، «دیگر نمی‌توان این موج را نادیده گرفت، زمان آن فرارسیده که موضوع را در جمع‌های همگانی به بحث و تبادل نظر بکشیم». کتاب «موج پیش‌رو» نیز با همین قصد نوشته شده است، در عین حال نشان می‌دهد که این رشد فناوری تا چه‌حد می‌تواند بر سیاست تأثیر بگذارد.
ازجمله اینکه، فناوری‌های جدید می‌توانند تهدیدی علیه موجودیت ملت-دولت‌ها باشند که ممکن است به برهم‌زدن یا حتی سرنگونی نظم ژئوپلیتیکی جهان منجر شود. «راه برای حمله‌های سایبری که هوش مصنوعی طراح و مجری آن خواهد بود باز می‌شود، جنگ‌های خودفرمان که می‌توانند نابودی و ویرانی در مقیاسی غیرقابل تصور برای کشورها به بار آورند، پاندمی‌هایِ زیان‌بارِ مهندسی‌شده، و جهانی که قدرتی توصیف‌ناپذیر و قادری مطلق بر آن حاکم است، که نامرئی اما همه‌جا جاری و ساری است».
البته نویسندگان بلافاصله تأکید می‌کنند که احتمال وقوع هریک از این سناریوها شاید زیاد نباشد، اما عواقب هریک از آنها می‌تواند سهمگین باشد و از این‌رو هرگونه احتمال ناچیز نیز درخور دقت و توجهِ عاجل است. این فناوری‌ها تأثیرات دیگری نیز بر سیاست دارند که ایجاد نوعی تمرکز و انحصارگرایی است. از این‌رو که واکنش برخی دولت‌های خودکامه به مخاطرات بالقوه فناوری‌ها، اِعمال نوعی تمرکز قدرتِ فناورانه است، با این امید که بتوانند مانع گسترش یا کندیِ حرکت این نیروی جدید شوند.
از آنجا که لازمه این شیوه برخورد، اعمال نظارت و کنترل دولتی بر زندگی شهروندان است، به نوعی مداخله و تعرض به فضای خصوصی شهروندان نیز دامن خواهد زد. کنترل دولتی بر توسعه فناوری ممکن است به استقرار نوعی نظام پایشی و دیستوپیاییِ جهانی بینجامد. بنابراین، «آنچه باید مدنظر باشد این است که هم قرارگرفتن روی ریل پرشتاب فناوری‌های نو، و هم حرکت در جهت خلاف آن، با مخاطرات و فراز و فرودهای بی‌شماری دست به گریبان خواهد بود.
با گذر زمان و ارزان‌ترشدن و قدرتمندترشدن و فراگیرشدن فناوری‌های جدید، باریکه‌ای میان این دو مسیر -دیستوپیای تکنودیکتاتوری از یک سو، و فاجعه توسعه بی‌پروا و مهارگسیخته از سوی دیگر- باریک‌تر شده و بر مخاطرات آن نیز افزوده خواهد شد». مصطفی سلیمان و مایکل باسکار بعد از برشمردنِ مخاطرات بالقوه و احتمالیِ توسعه و تسلط فناوری‌های جدید، به این واقعیت اعتراف می‌کنند که با وجود این تبعات ناخواسته، دست‌شستن و روی برگرداندن از این فناوری‌ها کار عاقلانه‌ای نیست و امروز ما بیش از پیش به دستاوردها و منافع فناوری‌های پیش‌رو نیازمند و متکی هستیم.
با این حال، صورت‌بندی نهایی آنان از چشم‌انداز پیش‌رو این است که نسل نیرومندی از فناوری‌ها، دیر یا زود، بشریت را یا به سوی فاجعه ناشی از مهارگسیختگی و یا دیستوپیای ناشی از کنترل سوق خواهد داد. و این معضل، «تجلیِ فرامسئله پیش‌روی بشریت در قرن بیست‌ویکم» است. اینکه تأکید کتاب «موج پیش‌رو» بیش از دستاوردهای فناوری بر مخاطرات آن است، به این دلیل است که نویسندگان معتقدند در میان انبوه نوشته‌ها و بحث‌ها درباره هوش مصنوعی، به‌ندرت کسی درباره مهار فناوری سخن می‌گوید. «این وضعیت برآیند مجموعه‌ای از سازوکارهای فنی، اجتماعی و حقوقی است که به تحدید و کنترل فناوری در همه سطوح آن راه می‌برد: چاره‌ای که در کلیات و نه در جزئیات، راهی برای شانه خالی‌کردن از رویارویی با این معضل است. با وجود این، حتا سرسخت‌ترین منتقدان فناوری نیز گرایشی به این مهار جبری و سخت‌گیرانه ندارند».
