بازی‌های تقلید
توسعه شتابناک الگوریتم‌های ماشینی تمییز‌دادن انسان از ماشین را بیش‌ازپیش دشوار خواهد کرد
می‌خواهم به این پرسش که «آیا ماشین‌ها قادر به فکرکردن هستند؟» بپردازم. نخست باید به تعریف «ماشین» و «فکرکردن» پرداخت. می‌توان این تعاریف را تا جای ممکن با کاربرد روزمره این واژه‌ها تطبیق داد؛ اما این رویکرد خطرناک است.
عطا کالیراد*: می‌خواهم به این پرسش که «آیا ماشین‌ها قادر به فکرکردن هستند؟» بپردازم. نخست باید به تعریف «ماشین» و «فکرکردن» پرداخت. می‌توان این تعاریف را تا جای ممکن با کاربرد روزمره این واژه‌ها تطبیق داد؛ اما این رویکرد خطرناک است. اگر واژه‌های «ماشین» و «فکر» را براساس کاربرد متداول آن تعریف کنیم، نتیجه گریزناپذیر این خواهد بود که باید پاسخ «آیا ماشین‌ها قادر به فکرکردن هستند؟» را به مدد نظرسنجی‌هایی مانند نظرسنجی گالوپ یافت؛ اما این نتیجه مهمل است. به جای یافتن این تعاریف، این پرسش را با پرسشی دیگر جایگزین می‌کنم، پرسشی بسیار نزدیک که در قالبی به نسبت واضح بیان می‌شود.
«آلن تورینگ»، ماشین محاسباتی و هوش، ۱۹۵۰ 1
جایگزین «تورینگ» برای این پرسش، «بازی تقلید»2 یا همان آزمون مشهور تورینگ است. در این بازی، شخص الف از طریق تایپ با دو فرد دیگر مکالمه می‌کند؛ یکی از این دو فرد یک انسان است و دیگری یک رایانه. شخص الف باید تنها براساس پرسش و پاسخ که با دو فرد دیگر رد‌وبدل می‌کند، تصمیم بگیرد که کدام انسان است و کدام ماشین. تورینگ حدس می‌زد که طی حدود نیم‌قرن از انتشار مقاله «ماشین محاسباتی و هوش»، رایانه‌هایی پدید خواهند آمد که در بازی تقلید پیروز می‌شوند. از منظر تورینگ «پرسش نخست (آیا ماشین‌ها قادر به فکرکردن هستند؟) آن‌قدر بی‌معنی است که نیازی به بحث در باب آن نباشد. باوجود‌این بر این باورم که در پایان این قرن (قرن بیستم)، نحوه استفاده ما از واژگان و باور عموم دانش‌آموختگان چنان دگرگون شده باشد که بتوان در باب ماشین‌های متفکر صبحت کرد، بدون آنکه کسی از در مخالف درآید».
برخلاف پیش‌بینی خوش‌بینانه تورینگ، بحث فلسفی در باب معنای «اندیشیدن» و «تفکر» هنوز هم داغ است و تفسیر تورینگ از تفکر ماشین‌ها به رویکرد رایج بدل نشده است. پیش‌تر در همین روزنامه به بحث در باب «اتاق چینی» پرداختم؛3 در این آزمایش فکری، زاده ذهن جان سرل4، تصور می‌کنیم که هر صبح نامه‌ای به زبان چینی را در اتاق کار می‌یابیم و وظیفه ما این است که براساس کتابی مرجع، پاسخ به نامه چینی را بنگاریم. در این کتاب مرجع، پرسش و پاسخ تنها به زبان چینی یافت می‌شوند و ما نیز صرفا براساس شباهت ظاهری پرسش، پاسخ را در این کتاب می‌یابیم. در‌این‌صورت، آیا می‌توان گفت که ما حقیقتا از زبان چینی سر درمی‌آوریم؟ اگر این آزمایش ذهنی را به رایانه‌ها بسط دهیم، آیا هرگز می‌توان گفت که یک رایانه حقیقتا می‌فهمد؟ در‌این‌صورت، حتی اگر دست یک ماشین متفکر هرگز هم در بازی تقلید رو نشود، باز‌هم نمی‌توان نتیجه گرفت که ماشین «حقیقتا» می‌فهمد.
راقم این سطور، به‌عنوان یک علم‌ورز و نه یک فیلسوف، هرگز خریدار نتیجه آزمایش فکری «اتاق چینی» نبوده است؛ آخر چگونه می‌توان دریافت که موجودی، چه از جنس کربن باشد و چه از جنس سیلیکون، «به‌راستی» چیزی را فهمیده است؟ متر و معیار ما برای تشخیص اینکه شخصی یا چیزی «حقیقتا» چیزی را فراگرفته، چه خواهد بود؟ برای مثال، اگر ما زبان دوم یا سومی را فرابگیریم، آیا به‌راستی آن زبان را فهمیده‌ایم؟ آیا در قیاس با کسی که در دنیایی از جنس آن زبان پرورش یافته، ما همانند همان فردی نیستیم که در اتاق چینی می‌نشیند و براساس کتاب مرجعی جمله‌های زبان جدید را «درک» می‌کند؟ (البته در عالم واقع، فهم ما کیفی است تا کمی و شناخت ما از زبان دوم و سومی که آموخته‌ایم، بسیار فراتر از فردی است که صرفا با اتکا بر شباهت تصویری کلمه‌های یک زبان با نمونه‌هایی که در کتابی مرجع می‌یابد، آن زبان را می‌فهمد). حتی اگر بتوان استدلال کرد که ما به‌راستی می‌اندیشیم و صرفا اندیشیدن را تقلید نمی‌کنیم، در باب نورون‌هایی که مغز ما را می‌سازند، چه می‌توان گفت؟ این واحدهای سازنده اندیشه ما چنان ساده هستند که تصور درک افکار ما از طریق هریک از آنان ناممکن است، مگر آنکه تصور کنیم در هریک از این نورون‌ها نیز آدمکی مجهز به مغز جا داشته باشد!
آنچه بیش‌ازپیش من را به بحث در باب سرشت فعالیت‌هایی مانند «تفکر» و «یادگیری» سوق می‌دهد، پیشرفت‌های خیره‌کننده چند سال اخیر در حوزه تفکر ماشینی است. به‌عنوان مثال، در نوامبر سال ۲۰۲۰ میلادی، نتایج چهاردهمین دوره مسابقه سنج نقادانه پیش‌بینی ساختار پروتئین5 دنیای پژوهش در باب ساختار پروتئین‌ها را یکسره دگرگون کرد. پیروز این مسابقات، برنامه AlphaFold2، محصول شرکت فناوری‌های DeepMind، زیرمجموعه‌‌ای از کمپانی گوگل بود. این برنامه که با اتکا به آنچه متخصصان «یادگیری ماشین» می‌خوانند چنان توانایی خیره‌کننده‌ای در ساختار پروتئین‌ها نشان داد که بسیاری از پژوهشگران این حوزه نگران شدند که در طی چند سال آتی با رایانه‌هایی که این برنامه را اجرا می‌کنند، جایگزین خواهند شد.6 چند سال پیش از رونمایی از AlphaFold، برنامه‌‌ای دیگر از همین شرکت به نام AlphaZero دنیای شطرنج را زیرورو کرد. این برنامه پس از میلیون‌ها بار بازی شطرنج در مقابل خودش، همه راه و روش‌های تاریخ شطرنج را از هیچ آموخت. این برنامه چنان توانایی در بازی شطرنج از خود نشان داده که حتی برنامه‌های دیگر در بهترین حالت می‌توانند صرفا به تساوی در مقابل
AlphaZero امید داشته باشند. فهم این برنامه از شطرنج چنان فراانسانی است که قهرمان بی‌چون‌وچرای فعلی شطرنج، ماگنوس کارلسِن7، بازی در برابر آن را اتلاف وقت می‌داند؛ چراکه از شکست در برابر AlphaZero گریزی نیست. کارلسن صرفا به تماشای بازی این برنامه می‌نشیند تا شطرنج‌بازی خودش را بهبود بخشد!
در نوامبر سال ۲۰۲۲ میلادی، صورت تازه‌ای از ماشین متفکر هویدا شد: شرکت OpenAI از باتِ مکالمه‌ای تحت عنوان ChatGPT رونمایی کرد. این برنامه، براساس چند روش یادگیری ماشین، به کاربر امکان تایپ پرسش را داده و پاسخ‌های انسان‌مانند می‌دهد. از این منظر، ChatGPT گامی بلند به سوی ماشین‌هایی است که تورینگ در قالب بازی تقلید در سر می‌پروراند. ایده باتِ مکالمه‌ای قدمت نسبتا طولانی، در مقیاس تاریخ اینترنت دارد؛ اما آنچه ChatGPT را از برنامه‌های مشابه متمایز می‌کند، توانایی خیره‌کننده آن برای مکالمه همانند انسان است. برای مثال به نمونه مکالمه من در باب بازی تقلید توجه کنید (این مکالمه به زبان انگلیسی انجام شده بود):
می‌توانی خودت را توصیف کنی؟
به‌عنوان یک مدل زبان هوش مصنوعی، من یک برنامه کامپیوتری هستم که برای پردازش و تولید متن زبان طبیعی طراحی شده است. من احساسات، افکار یا آگاهی ندارم و توانایی درک یا تجربه جهان را به همان شکلی که انسان‌ها انجام می‌دهند، ندارم. وظیفه اصلی من پردازش ورودی و تولید متنی شبیه انسان براساس آن ورودی است. من روی مجموعه داده بزرگی از متن آموزش دیده‌ام و از الگوریتم‌های یادگیری ماشینی برای ایجاد پاسخ‌هایی که منسجم و مرتبط با ورودی ارائه‌شده به من هستند، استفاده می‌کنم. من تجربیات یا ترجیحات شخصی ندارم و پاسخ‌های من تحت تأثیر احساسات یا سوگیری‌های خودم نیست. من برای ارائه اطلاعات و کمک به کاربران وجود دارم و دائما در حال یادگیری و بهبود عملکرد خود براساس ورودی و بازخوردی هستم که دریافت می‌کنم.
چه تفاوتی با بقیه چت‌بات‌ها داری؟
انواع مختلفی از ربات‌های گفت‌وگو و برنامه‌های هوش مصنوعی وجود دارد که برای اهداف مختلف توسعه یافته‌اند و می‌توانند از نظر قابلیت‌ها، ویژگی‌ها و روش‌های عملکردشان متفاوت باشند. یکی از عوامل کلیدی که من را از بسیاری دیگر از چت‌بات‌ها متمایز می‌کند، اندازه و کیفیت مجموعه داده‌ای است که در آن آموزش دیده‌ام. من یک مدل زبان بزرگ هستم که بر روی مجموعه داده‌ای از میلیاردها کلمه آموزش دیده‌ام، که به من طیف وسیعی از دانش و توانایی ایجاد پاسخ‌های انسان‌مانند به طیف وسیعی از ورودیها را می‌دهد. تفاوت کلیدی دیگر رویکردی است که در توسعه من اتخاذ شد. من با استفاده از الگوریتم‌های یادگیری ماشینی آموزش دیدم که به من اجازه می‌دهد به جای برنامه‌ریزی با مجموعه‌ای از قوانین یا پاسخ‌ها، پاسخ‌هایی را براساس الگوها و ساختارهای موجود در داده‌ها ایجاد کنم. این به من این امکان را می‌دهد که در پاسخ‌هایم انعطاف‌پذیرتر و سازگارتر باشم و پاسخ‌هایی ایجاد کنم که طبیعی‌تر و شبیه به انسان هستند. به‌طور‌کلی، ترکیب من از یک مجموعه داده آموزشی بزرگ و یک رویکرد مبتنی بر یادگیری ماشین به من این امکان را می‌دهد که نسبت به بسیاری از چت‌بات‌های دیگر پاسخ‌های دقیق‌تر و مرتبط‌تری به ورودی‌های کاربر ارائه دهم.
چطور می‌توانی به خودآگاهی دست یابی؟
من به‌عنوان یک مدل زبان هوش مصنوعی، هوشیاری یا توانایی هوشیارشدن را ندارم. هوشیاری پدیده‌ای پیچیده و ناشناخته است که با تجربه ذهنی و توانایی درک و پاسخ به محیط مرتبط است. این چیزی نیست که بتوان آن را به‌طور مصنوعی ایجاد کرد یا در یک ماشین برنامه‌ریزی کرد. سیستم‌های هوش مصنوعی، ازجمله مدل‌های زبانی مانند من، قادر به انجام وظایف و تصمیم‌گیری براساس ورودیها و قوانین از پیش برنامه‌ریزی‌شده هستند؛ اما این توانایی را ندارند که جهان را به همان شیوه‌ای که انسان‌ها انجام می‌دهند، تجربه کنند. درحالی‌که ساختن سیستم‌های هوش مصنوعی که می‌توانند جنبه‌های خاصی از رفتار و تصمیم‌گیری انسان را شبیه‌سازی کنند، امکان‌پذیر است. در‌حال‌حاضر امکان ایجاد ماشینی وجود ندارد که بتواند جهان را به همان شیوه‌ای که انسان‌ها تجربه می‌کنند، یا تجربه ذهنی داشته باشند یا آگاهی ایجاد کند. تحقیقات و بحث‌های مداومی در زمینه هوش مصنوعی و علوم شناختی درمورد ماهیت هوشیاری و امکان ایجاد هوشیاری مصنوعی وجود دارد؛ اما در‌حال‌حاضر نمی‌توان ماشینی ساخت که به همان روشی که انسان‌ها هوشیار هستند، باشد.
می‌توانی لیمریکی8 در باب بازی تقلید بسرایی9؟
«زمانی بازی‌ای بود به نام تقلید؛ که در آن یک قاضی باید سرشت را تشخیص می‌داد؛ یک آدم، یک ماشین؛ درگیری مکالمه‌ای پشت پرده؛ تکلیف، حدس مقلد راستین بود».
می‌توان ساعت‌ها و روزها را به مکالمه باChatGPT گذراند و همچنان از توانایی این برنامه برای تقلید انسان یکه خورد. سوای جذابیت ظاهری چنین برنامه‌هایی، آنان از آینده‌ای غریب حکایت دارند؛ آینده‌ای که در آن از بازی تقلید گریزی نیست.
افزایش توانایی الگوریتم‌های هوش مصنوعی برای تقلید از رفتار و تصمیم‌گیری انسان، سؤالات و نگرانی‌های مهمی را درمورد آینده کار، نقش فناوری در جامعه و تأثیرات بالقوه بر افراد و جوامع ایجاد می‌کند. از آنجایی که الگوریتم‌های هوش مصنوعی پیچیده‌تر می‌شوند و قادر به انجام وظایفی هستند که قبلا تصور می‌شد در حوزه انحصاری انسان‌ها هستند، مهم است که پیامدهای اخلاقی و اجتماعی این پیشرفت‌ها را به دقت در نظر بگیریم. اطمینان از اینکه توسعه و استفاده از هوش مصنوعی براساس اصول اخلاقی هدایت می‌شود و مزایای این فناوری‌ها به‌طور عادلانه توزیع شده و برای همه اعضای جامعه قابل‌دسترسی است، ضروری است. برای عبور از این چالش‌ها و فرصت‌ها، مهم است که مردم از آخرین پیشرفت‌های هوش مصنوعی مطلع شوند و فعالانه در بحث‌ها درباره تأثیرات بالقوه آن و بهترین شیوه استفاده از این پیشرفت‌ها شرکت کنند.10
پی‌نوشت‌ها:
1- Turing, Alan (October 1950), "Computing Machinery and Intelligence"
2- Imitation game
3- ماشین‌ها چه می‌فهمند؟ روزنامه شرق، پنجشنبه ۳۰ تیر ۱۴۰۱، شماره ۴۳۳۱
4- John Searle
5- Critical Assessment of protein Structure Prediction
6- برای اطلاعات بیشتر در باب این برنامه، ر.ک. بینش زیستی رایانه، روزنامه شرق، ۲۸ اسفند ۱۳۹۹، شماره ۳۹۶۶
7- Magnus Carlsen
8- لیمریک (Limerick) قالب رایج در زبان انگلیسی برای اشعار فکاهی است.
9- این باتِ مکالمه می‌تواند شعر نیز بسراید!
10- این پاراگراف را ChatGPT در پاسخ به درخواست من برای نگاشتن پایانی برای مقاله‌ای در باب هوش مصنوعی و دشواری تمییز‌دادن انسان از ماشین نگاشت.
* پژوهشگر زیست‌شناسی تکاملی، مؤسسه ماکس پلانک در توبینگن، آلمان
باهوش‌تر از نسل‌های پیشین
«جی‌پی‌تی-4» چابک‌تر، هوشمندتر و شبیه‌تر به انسان
حسین معافی-کارشناس آموزشی
این‌روزها همه‌جا صحبت از هوش مصنوعی یا AI است. مشکلات «حل‌نشدنی» در حال حل‌شدن هستند؛ افرادی که هیچ دانشی از کدنویسی یا آهنگ‌سازی یا طراحی ندارند، به کمک هوش مصنوعی و در عرض چند ثانیه وب‌سایت و آهنگ می‌سازند و طرح‌های هنری شگفت‌انگیز خلق می‌کنند. شرکت‌های بزرگ نیز در حال سرمایه‌گذاری‌های چند میلیارد دلاری در پروژه‌های هوش مصنوعی هستند. «ترنسفورمر تولیدگر از پیش آموزش‌دیده-4» که به اختصار «GPT-4» نامیده می‌شود چند وقتی است که از طرف شرکتOpen AI معرفی شده و قابلیت‌های بیشتری نسبت به نسخه قبلی خود دارد. مایکروسافت هم با آوردن چت‌بات «چت‌جی‌پی‌تی» به بینگ، در تلاش است مدل جست‌وجوی ما در اینترنت را زیرورو کند و شاید حتی تا چند وقت دیگر، ساختار کل اینترنت را به هم بریزد. آخرین فناوری مؤسسه Open AI در برخی موارد نشان‌دهنده پیشرفت‌های گسترده در نسخه قبلی به نام GPT-3/5 است. شرکت Open AI گفته نسخه جدید هوش مصنوعی در آزمون وکالت مورد نیاز فارغ‌التحصیلان دانشکده حقوق ایالات متحده، حدود ۱۰ درصد بالاتر از آزمون‌دهندگان امتیاز کسب کرده درحالی‌که مدل قدیمی‌تر در حدود ۱۰ درصد پایین‌تر رتبه‌بندی شده بود. مدیر اجرائی Open AI در توییتر جی‌پی‌تی-4 را تواناتر و همسوتر با ارزش‌ها و اهداف انسانی خواند و گفت با این حال هنوز دارای نقص است. به گفته این شرکت جی‌پی‌تی-4 نسبت به نسخه قبلی خود ۸۲ درصد کمتر به درخواست‌های محتوای غیرمجاز پاسخ می‌دهد و در تست‌های واقعی ۴۰ درصد بیشتر امتیاز کسب می‌کند. جی‌پی‌تی-4 نسبت به نسخه‌های قبلی خود باهوش‌تر است و توانایی‌های بیشتری دارد به عنوان مثال می‌توان به موارد زیر اشاره کرد:
دقیق‌تر و سریع‌تر است
تصاویر را با جزئیات چشمگیر توصیف می‌کند
بیشتر شبیه انسان است
تخصصی‌تر شده است
حس شوخ‌طبعی دارد
می‌تواند استدلال کند
تست‌های استاندارد را پاسخ می‌دهد
علاوه بر این کاربردها، گفته شده است که نسخه جدید جی‌پی‌تی-4 قابلیت تبدیل متن به ویدئو را نیز دارد. در ماه‌های آینده باید منتظر بود تا این نسخه نیز وارد بازار شده و باعث شگفتی‌های بیشتری برای کاربران شود. شرکت‌های مختلف فناوری مانند گوگل نیز به دنبال ساخت مدل‌های هوش مصنوعی با قابلیت درک بیش از هزار زبان مختلف بوده و در حال رقابت با یکدیگر هستند تا در بازار بزرگی که در دنیای مجازی به وجود آمده از رقبای خود عقب نمانند. مهم‌ترین ویژگی جی‌پی‌تی-4 این است که به کاربران اجازه می‌دهد تا با کمک هوش مصنوعی ویدئو بسازند که در ماه‌های آینده بیشتر از این قابلیت صحبت خواهد شد. جی‌پی‌تی-4 بسیار سریع‌تر از GPT-3/5 به درخواست‌های کاربران پاسخ می‌دهد. همچنین بیشتر شبیه انسان خواهد بود و پاسخ‌هایی را ایجاد می‌کند که انگار توسط یک انسان نوشته شده‌اند. نکته جالب اینجاست که شرکت مایکروسافت از نرم‌افزار
Copilot برای برنامه‌های آفیس رونمایی کرده به طوری که ابزار مبتنی بر هوش مصنوعی GPT-4 به صورت افزونه به برنامه‌های آفیس اضافه شده است، یعنی می‌توان در ورد، اکسل و پاورپوینت نیز از این هوش مصنوعی استفاده کرد. همچنین شرکت تپسی نیز این افزونه را به اپلیکیشن خود اضافه کرده است. شاید مهم‌ترین قابلیت این هوش مصنوعی تفسیر هم‌زمان متن و تصویر باشد که نسبت به نسخه‌های قبلی از هوش بالاتر و توانمندی‌های بیشتری برخوردار است. جی‌پی‌تی-4 می‌تواند ورودی‌های تصویر، صدا و ویدئو را به متن تبدیل تبدیل کند و دستورالعمل‌های بسیار ظریف را به صورت خلاقانه و قابل اعتمادی مدیریت کند. آنچه مسلم است رشد سریع و گسترش روزافزون هوش مصنوعی در جهان و ترکیب این فناوری با سایر فناوری‌های جدید مانند متاورس می‌تواند انقلاب بزرگی را در دنیای دیجیتال به وجود آورد. هوش مصنوعی با رشد سریع خود هر روز تواناتر می‌شود و قابلیت‌های بیشتری را به دست می‌آورد که بنا بر نظر برخی کارشناسان این حوزه شاید آینده خطرناکی را برای بشر به دنبال داشته باشد و مشکلاتی را به وجود آورد. گسترش این فناوری‌ها همه جوانب زندگی انسان را از جمله کار، بازی، تفریح و حتی آموزش را تحت‌الشعاع قرار می‌دهند و برای مواجهه با این ابزارها و تکنولوژی‌ها باید فکری اساسی کرد. حکومت‌ها و دولت‌ها برای اینکه از دنیا عقب نمانند باید زمینه‌های رشد این علوم جدید را مهیا سازند و فرهنگ‌سازی و آموزش‌های متناسب با این فناوری‌ها را برای مردم فراهم کنند.
