غوغای ربات متن‌‌ساز
آیا شاهد نقطه عطفی در آموزش، یادگیری و شناخت جهان هستیم؟
گاهی کسانی که تاریخ را فراموش می‌کنند، محکوم به تکرار آن هستند. برای آن دسته از ما که خاطرات طولانی داریم، هیاهوی کنونی -نه هیستری- درباره چت‌بات (و به‌طور‌کلی هوش مصنوعی مولد) زنگ را به صدا درمی‌آورد.
مریم مرامی-کارشناس ارشد علوم شناختی، رسانه: گاهی کسانی که تاریخ را فراموش می‌کنند، محکوم به تکرار آن هستند. برای آن دسته از ما که خاطرات طولانی داریم، هیاهوی کنونی -نه هیستری- درباره چت‌بات (و به‌طور‌کلی هوش مصنوعی مولد) زنگ را به صدا درمی‌آورد. مردم ربات‌چت را جادویی می‌دانند، حتی با وجود اینکه می‌دانند چگونه کار می‌کند -به‌عنوان یک «طوطی تصادفی» یا ماشینی برای «سرقت ادبی با فناوری پیشرفته»؛ اما درواقع ما هنوز نیمی از آن را نمی‌دانیم -نه انتشار ناشی از آموزش مدل زبانی زیربنایی آن یا رد‌پای تمام آن تعاملات خوشحال‌کننده‌ای که مردم با آن دارند. آیا این فناوری تنها به دلیل تصاحب غیرمجاز کار خلاقانه میلیون‌ها نفری که اتفاقا در وب دراز کشیده‌اند، وجود دارد؟ مدل کسب‌وکار پشت این ابزارها چیست، دقیقا چیزی نمی‌دانیم. ما بی‌وقفه درحال معامله‌های فاوستی با این فناوری هستیم. در این‌گونه قراردادها، هر دو طرف چیزی می‌گیرند: شیطان روح انسان را می‌گیرد، انسان‌ها خدماتی را دریافت می‌کنند که ما را خوشحال می‌کند. گاهی اوقات، مبادله برای ما کار می‌کند؛ اما با این چیزها، اگر درنهایت تصمیم بگیریم که این کار را نکنیم، دیگر خیلی دیر شده است. این معامله‌ای است که هوش مصنوعی مولد، اکنون روی میز گذاشته است. آیا ما برای آن آماده‌ایم؟
ربات‌چت یک فناوری جدید و قدرتمند هوش مصنوعی است که احتمالا جهان را عمیقا تغییر خواهد داد.
ربات‌چت ذاتا خوب یا بد نیست؛ اما قدرتمند است و می‌تواند مزایای فوق‌العاده‌ای ارائه دهد و مشکلات بزرگی ایجاد کند.
درحالی‌که ربات‌چت حساس نیست؛ اما احساس می‌کند. این به‌تنهایی عواقب بزرگی خواهد داشت.
ما باید یاد بگیریم که چگونه از هوش مصنوعی جدید به‌طور ماهرانه استفاده کنیم، در غیر‌این‌صورت با عواقب جدی روبه‌رو خواهیم شد.
آینده فرارسیده است
آیا تغییر لرزه‌ای در مسیر بشریت را که در ۳۰ نوامبر ۲۰۲۲ رخ داد، احساس کردید؟ آن زمان بود که ربات‌چت به‌طور رسمی برای عموم راه‌اندازی شد. با معرفی ربات‌چت و دیگر چت‌بات‌های تعاملی هوشمند مصنوعی (AI)، ما وارد طلوع یک انقلاب تکنولوژیکی می‌شویم که ذهن را درگیر می‌کند. دلیلی وجود دارد که چرا مدیریت گوگل برای مقابله با تهدیدی که چت‌بات و سایر ربات‌های چت هوش مصنوعی برای مدل کسب‌وکار آنها ایجاد می‌کنند، یک هشدار «کد قرمز» صادر کرده است. ربات‌چت نه‌تنها می‌تواند مدل کسب‌وکار گوگل را تضعیف کند؛ بلکه می‌تواند یکی از بزرگ‌ترین اخلالگران در تاریخ تمدن باشد. ظهور هوش مصنوعی چیزی است که دهه‌ها درمورد آن می‌شنویم. بسیاری از ما فیلم‌هایی مانند «ماتریکس»، «2001: یک اودیسه فضایی» و «ترمیناتور» را دیده‌ایم که در آنها وعده هوش مصنوعی، چرخشی تاریک به خود می‌گیرد، ما باید علیه اربابان هوش مصنوعی خود شورش کنیم و... . درحالی‌که ممکن است ما لزوما به سمت آینده دیستوپیایی بدترین ترس‌هایمان حرکت نکنیم، این فناوری‌های جدید هوش مصنوعی یک معامله بزرگ هستند.
«چت‌جی‌پی‌تی» (ChatGPT) چیست؟
ربات «چت‌جی‌پی‌تی» که توسط OpenAI توسعه داده شده است، مخفف «ترانسفورماتور از پیش آموزش‌دیده تولیدکننده چت» است. یک نمونه اولیه چت‌ربات مبتنی بر دیالوگ هوش مصنوعی است که قادر به درک زبان طبیعی انسان و توانایی تولید متن نوشته‌شده با جزئیات بسیار چشمگیر است. یک سیستم هوش مصنوعی بسیار بزرگ و قدرتمند که می‌توانید پس از ثبت‌نام برای یک حساب کاربری، سؤالات بی‌شماری از آن بپرسید و اغلب پاسخ مفیدی دریافت خواهید کرد. در یک تغییر پارادایم بزرگ، به‌جای اینکه خودمان در وب برای مطالب مرتبط جست‌وجو کنیم تا در تولید محتوای اصلی به ما کمک کند، ربات‌چت می‌تواند براساس سؤالات و درخواست‌های ما محتوای اصلی را برای ما ایجاد کند.
آیا چت‌بات می‌تواند جایگزین انسان شود؟
این ابزار با توانایی نوشتن، مهارت در کارهای پیچیده و سهولت استفاده، کارشناسان را تحت تأثیر قرار داده است. گمانه‌زنی‌هایی وجود دارد مبنی بر اینکه مشاغل وابسته به تولید محتوا می‌توانند منسوخ شوند، از نمایش‌نامه‌نویسان و استادان گرفته تا برنامه‌نویسان و روزنامه‌نگاران. توانایی تولید متن نوشته‌شده مانند انسان، پیشنهادهایی را برانگیخته است که این فناوری می‌تواند جایگزین روزنامه‌نگاران شود. بااینحال در مرحله فعلی خود، ربات‌چت فاقد مهارت‌های ظریف، تفکر انتقادی یا توانایی تصمیم‌گیری اخلاقی است که برای روزنامه‌نگاری موفق ضروری است. ربات‌چت همچنین می‌تواند پاسخ‌های کاملا اشتباه بدهد و اطلاعات نادرست را به‌عنوان واقعیت ارائه کند و OpenAI اعتراف می‌کند که ربات‌چت قادر است «پاسخ‌های قابل‌قبول اما نادرست یا بی‌معنی» را بنویسد. این شرکت می‌گوید که رفع این مشکل دشوار است؛ زیرا هیچ منبع حقیقتی در داده‌هایی که برای آموزش مدل استفاده می‌کنند، وجود ندارد و آموزش تحت نظارت نیز می‌تواند گمراه‌کننده باشد؛ زیرا پاسخ ایدئال به آنچه مدل می‌داند بستگی دارد، نه آنچه نشان‌دهنده انسانی می‌داند. نکته اینجاست که ربات‌چت دقیقا چیزی نمی‌داند. این یک هوش مصنوعی است که برای تشخیص الگوها در بخش‌های وسیعی از متن برداشت‌شده از اینترنت آموزش دیده است، سپس با کمک انسان برای ارائه گفت‌وگوی مفیدتر و بهتر، آموزش داده شده است. پاسخ‌هایی که دریافت می‌کنید ممکن است قابل‌قبول و حتی معتبر به نظر برسند؛ اما همان‌طور‌که OpenAI هشدار می‌دهد، ممکن است کاملا اشتباه باشند. چت‌بات‌ها سال‌هاست که مورد‌توجه شرکت‌هایی بوده‌اند که به دنبال راه‌هایی برای کمک به مشتریان برای دستیابی به آنچه نیاز دارند و محققان هوش مصنوعی در تلاش برای مقابله با تست تورینگ هستند. این همان «بازی تقلیدی» معروفی است که دانشمند علوم رایانه، «آلن تورینگ»، در سال ۱۹۵۰ به‌عنوان راهی برای سنجش هوش پیشنهاد کرد: آیا شخص سومی که با انسان و با رایانه مکالمه می‌کند می‌تواند این دو را از هم تشخیص دهد؟ درحالحاضر فناوری هوش مصنوعی در اطراف ما وجود دارد و به همه‌چیز کمک می‌کند، از تقلب در کارت اعتباری گرفته تا تبدیل گفتار ما به پیام‌های متنی. بااینحال، فناوری چت‌بات انتظارات را بالا برده است؛ بنابراین واضح است که با تکیه بر دستیارهای دیجیتال و ابزارهای آنلاین، این فناوری به هر نحوی در زندگی ما اهمیت بیشتری پیدا خواهد کرد. ربات‌چت می‌تواند معتبر به نظر برسد؛ اما همیشه درست نیست و نمی‌توانید بگویید که پاسخ‌هایش را از کجا می‌گیرد. بااینحال، به اندازه‌ای چشمگیر است که در اینترنت به یک محبوبیت ویروسی تبدیل شود و به اندازه کافی مفید است که گوگل طبق گزارش‌ها پاسخ «کد قرمز» را به ربات‌چت اعلام کند. ربات‌چت، این فناوری چشمگیر، تهدیدی مستقیم برای تجارت جست‌وجوی گوگل است؛ اگرچه درنهایت، گوگل باید بتواند در برابر این تهدید مقاومت کند. گوگل با چهار سرویس که هرکدام بیش از یک میلیارد کاربر دارند و ۶۰ میلیارد دلار درآمد عملیاتی سالانه از جست‌وجو، بیش از اندازه کافی، پول برای سرمایه‌گذاری در رقابت با ربات‌چت دارد.
تعامل با ربات‌چت
با استفاده از نوع خاصی از هوش مصنوعی معروف به پردازش زبان طبیعی (NLP)، می‌توانیم با ربات‌چت طوری تعامل کنیم که گویی یک شخص است. علاوه‌براین، ربات‌چت می‌تواند با گذشت زمان سازگار شود و یاد بگیرد. به نظر می‌رسد ربات‌چت یک تعبیر برای قابلیت‌های این هوش مصنوعی جدید است. شاید بهتر باشد آنها را منشی دیجیتالی همه‌چیزدان شخصی یا PODA بنامیم. این هوش مصنوعی‌ها واقعا دانای کل نیستند؛ اما دیری نمی‌گذرد که همه چیزهایی را که نژاد بشر می‌داند، بدانند. با توجه به قدرت PODAها، چرا ما آنها را برای خودمان به خدمت نگیریم؟ از این گذشته، آنها به غذا، آب، خواب، تعارف، بیماری، پوشش مراقبت یا تعطیلات نیازی ندارند و هزاران بار سریع‌تر و کارآمدتر از هر انسانی برای کسری از هزینه، کار می‌کنند. آنها نفسی ندارند که کبود شود، هرگز شکایت نمی‌کنند و چیزی برای آنها توهین محسوب نمی‌شود. علاوه‌براین، کیفیت کار آنها درحالحاضر رقیب یا پیشی‌گرفته از هر انسانی در حوزه‌های بی‌شماری است. وقتی برای اولین‌بار از ربات‌چت استفاده می‌کنیم، بسیاری از ما فریاد می‌زنیم: این شگفت‌انگیز است! از آنجایی که ما با درگیری‌های سیاسی، ترس از گوشی‌های هوشمند و TikTok، تغییرات آب‌وهوایی جهانی و فهرستی از نگرانی‌های دیگر، درگیر شده‌ایم، هوش مصنوعی به آرامی وارد می‌شود. اگر دانش، قدرت است، پس قدرت ربات‌چت شبیه چیزی است که قبلا در تاریخ بشریت شاهد آن نبوده‌ایم.
هراس از ربات‌چت
هر نسلی درباره اینکه چگونه برخی از فناوری‌های جدید خبر از عذاب ما می‌دهند، «هراس اخلاقی» دارند. گاهی جشن گرفته‌ایم و گاهی ماتم زده‌ایم که چگونه تلویزیون، بازی‌های ویدئویی، رایانه‌های خانگی، اینترنت، گوشی‌های هوشمند و رسانه‌های اجتماعی به‌طور چشمگیری جامعه را تغییر داده‌اند. علی‌رغم برخی نگرانی‌های مشروع، در اکثر موارد، جهان از نوآوری‌های تکنولوژیکی ما سود برده است. آیا ربات‌چت فقط یک زنگ هشدار غلط دیگر است؟ هراس، دیگر هیچ فایده‌ای برای ما ندارد، ربات‌چت‌ها یک فناوری تغییردهنده بازی هستند. حداقل، در سال‌های آینده یک اخلال بزرگ خواهند بود و در آینده نزدیک، تقریبا هر شغل و حرفه‌ای تحت تأثیر آن قرار خواهد گرفت و بخش‌های شغلی خاصی تقریبا از بین خواهند رفت. درحالحاضر، ربات‌چت، معلمان زیادی دارد که در مورد چگونگی خفه‌کردن سرقت ادبی درگیر هستند، این فقط یک شروع است. وقتی شروع به ترکیب چت‌بات با فناوری‌های دیگر مانند CGI، رباتیک، رابط‌های صوتی قابل تنظیم و شخصی‌سازی‌شده، ابزارهای پوشیدنی، NPCهای بازی، سرمایه‌داری نظارتی و... می‌کنیم، نسخه‌هایی از برخی فیلم‌های علمی-تخیلی را داریم که در دنیای واقعی ظاهر می‌شوند. نکته مهم این است که ربات‌چت‌های فعلی حساس نیستند. برای دهه‌ها انسان‌ها نگران این بوده‌اند که چه اتفاقی می‌افتد، وقتی هوش مصنوعی درنهایت، هوشیار یا خودآگاه شود، آیا آنها سعی می‌کنند بشریت را به‌عنوان یک موجود پست‌تر از بین ببرند؟ بااینحال، ما با این تصور که هوش مصنوعی برای زمانی است که بشریت از مرز معینی عبور می‌کند، اشتباه بزرگی مرتکب شده‌ایم. وقتی با ربات‌چت تعامل می‌کنیم، بخشی از ما می‌خواهد فریاد بزند: این زنده است! به نظر می‌رسد که با یک انسان درحال تعامل هستیم. به‌این‌ترتیب، مهم نیست که آنها واقعا حساس باشند. در اصل، ما احساسات را در این هوش مصنوعی پیش‌بینی می‌کنیم. ما تکامل نیافته‌ایم تا بتوانیم هوش مصنوعی را از انسان تشخیص دهیم؛ بنابراین، ما به‌طور ناخودآگاه به هوش‌های مصنوعی جان می‌دهیم که می‌توانند به اندازه کافی از تعاملات انسانی با انسان‌سازی آنها تقلید کنند. به‌این‌ترتیب، نوآوری‌های باورنکردنی و مشکلات دلهره‌آور در انتظار ماست.
ربات‌چت، یک ابزار آموزشی
ربات‌چت هوش مصنوعی، ترس از یک آخرالزمان آموزشی را برانگیخته است. گمانه‌زنی‌ها در مورد دوران جدیدی از تقلب شایع و حتی ناقوس مرگ برای مقاله‌ها یا خود آموزش‌وپرورش می‌چرخد اما در میان این وحشت، برخی از معلمان مبتکر، ربات‌چت را فرصتی برای طراحی مجدد ظاهر یادگیری و آنچه می‌تواند آینده کلاس درس را شکل دهد، می‌بینند. به‌عنوان مثال یک معلم مبتکر ممکن است از بچه‌ها بخواهد با استفاده از ربات، متنی تولید کنند و سپس خودشان آن را ویرایش کنند تا خطاهای ربات‌چت را بیابند یا سبک نوشتن آن را بهبود ببخشند. ربات‌چت را می‌توان به ابزارهای فناوری آشناتر تشبیه کرد که یادگیری و تفکر انتقادی را تقویت می‌کند، نه جایگزین. نکته مهم دیگر، ربات‌چت علی‌رغم توانایی‌اش در نوشتن متن‌های انسان‌مانند، از نظر مردم هوشمند نیست. این یک ماشین آماری است که گاهی اوقات می‌تواند اشتباه کند یا دروغ بگوید و اغلب برای درست‌کردن کارها به راهنمایی و ویرایش‌های بیشتر نیاز دارد. برخی معتقدند که ربات‌چت را باید وارد کلاس درس کرد. اگر فقط دانش‌آموزانی که دسترسی لازم به دستگاه‌های متصل به اینترنت در خانه دارند، بتوانند با ربات تجربه کسب کنند، می‌تواند شکاف دیجیتالی را بیشتر کند و دانش‌آموزانی که دسترسی ندارند بیشتر آسیب ببینند. بنابراین این موقعیتی است که ربات‌چت را برای استفاده از زبان معلم، به لحظه‌ای قابل آموزش برای همه دانش‌آموزانش تبدیل کرد. سایر آموزگارانی که مفهوم آخرالزمان آموزشی را رد می‌کنند، معتقدند که ربات‌چت ممکن است اصلا آموزش را مختل نکند اما توجه را به این موضوع جلب می‌کند که چگونه سیستم قبلا شکسته شده است. روش دیگر در مورد این موضوع این نیست که چگونه اشکال جدیدی از ارزشیابی را بیابید بلکه اولویت‌های ما در آموزش بیشتر، درحالحاضر چیست؟ معلمان نباید ربات‌چت را ممنوع کنند و بدون هیچ سؤالی از این فناوری باید استقبال کنند و راه‌های خلاقانه‌تری برای همکاری با آن بیابند. برای مثال، دانش‌آموزان ممکن است از ربات‌چت برای ایجاد ایده‌ها یا بحث‌های جدید استفاده کنند. ربات‌چت ممکن است مربیان را به خلاقیت بیشتر در انجام تکالیف تشویق کند، برای مثال با طراحی آنها برای استخراج تجربیات شخصی دانش‌آموزان، که ربات‌چت نمی‌‌توانست این اطلاعات را از داده‌های آموزشی خود دریافت کند. این بدان معنا نیست که ربات‌چت به‌هیچ‌وجه مخل آموزش نخواهد بود. این ربات در زمانی پدیدار شد که بسیاری از معلمان پس از آموزش از راه دور در طول همه‌گیری کرونا، فرسودگی شغلی را تجربه می‌کنند. اکنون یک پدیده تکنولوژیکی دیگر، تهدید می‌کند که کل رویکرد آنها به آموزش را تغییر داده و کار بیشتری ایجاد می‌کند. ممنوع کردن کامل ربات‌چت از کلاس‌های درس، هرچند وسوسه‌انگیز است، می‌تواند مشکلات جدیدی را ایجاد کند. چگونه معلمان می‌توانند از فناوری برای تغییرشکل آموزش استفاده کنند؟ بازگشت به روش‌های آنالوگ ارزشیابی، مانند امتحانات شفاهی، می‌تواند دانش‌آموزان دارای معلولیت را در مضیقه قرار دهد. و ممنوعیت کامل ابزارهای هوش مصنوعی می‌تواند فرهنگ بی‌اعتمادی را تقویت کند. یادگیری در محیطی که معلم سعی می‌کند آنها را درحال تقلب بگیرد، برای دانش‌آموزان سخت‌تر خواهد بود. تمرکز را از یادگیری به تلاش برای گرفتن نمره خوب تغییر می‌دهد.
ربات‌چت یک ابزار آموزشی است، نه تقلب کامل
معلمان باید یاد بگیرند که از ربات‌چت به‌عنوان یک ابزار استفاده کنند و متوجه شوند که آن می‌تواند به دانش‌آموزان کمک کند، انتقادی فکر کنند. معلمان فکر می‌کنند که گوگل، ویکی‌پدیا و خود اینترنت آموزش را تضعیف می‌کنند اما این کار را نکردند. چیزی که بیشتر نگران‌کننده است، مربیانی هستند که ممکن است فعالانه تلاش کنند تا از تصدیق هوش مصنوعی مانند ربات‌چت جلوگیری کنند. این یک ابزار است، نه یک شرور. کارشناسان تجزیه و تحلیل محتوا به‌طور فعال در‌حال‌توسعه ابزارهایی هستند که متون چت‌بات را شناسایی می‌کنند. زمان نشان خواهد داد که این فیلترها چقدر مؤثر خواهند بود. اما درحالحاضر، دو نکته استاندارد، یکی آموزش هوشیاری و دیگری آگاهی از امنیت سایبری را می‌توان توصیه کرد و دیگر اینکه یاد بگیرید چگونه متون تولیدشده توسط ربات را شناسایی کنید. ویژگی‌های ریاضی برای چشم قابل‌تشخیص نیست اما هنوز شاخص‌های سبکی و ناهماهنگی‌های کوچک، ربات‌ها را از بین می‌برد. این مورد را بررسی کنید تا ببینید آیا می‌توانید تفاوت بین متن نوشته‌شده توسط انسان و ماشین را تشخیص دهید.
گامی برای آینده
ماهیت جهان واقعا درحال تغییر است و تکامل بشریت و تمدن با عصر روشنگری، پذیرش گسترده روش علمی و انقلاب‌های کشاورزی و صنعتی به جلو کشیده شده است. درواقع پیشرفت، کاری است که ما برای انجام آن تکامل یافته‌ایم. بااینحال، تکامل بیولوژیکی ما با سرعت حلزون در مقایسه با سرعت موشک تکامل فناوری حرکت می‌کند. وقتی به سیاست‌های تفرقه‌انگیز، قطبی‌شده و سمی در کشورهای مختلف نگاه می‌کنیم، نگرانی‌های موجهی وجود دارد که از نظر روحی یا اخلاقی برای استفاده از قدرتی که این هوش‌های مصنوعی جدید نشان می‌دهند، آماده نیستیم. قدرت علمی ما از قدرت معنوی ما پیشی گرفته است. پیشرفت‌های تکنولوژیکی را به‌عنوان وسیله‌ای بهبودیافته برای اهداف بهبودنیافته به کار گرفته‌ایم. تهدید جدی توسط هوش مصنوعی این نیست که یک هوش مصنوعی حساس علیه ما شورش کند. این است که ما توانایی‌های هوش مصنوعی را در برابر یکدیگر آزاد خواهیم کرد، زیرا کورکورانه به دنبال اهداف «بهبود» پول و قدرت هستیم. هیچ سرنوشتی وجود ندارد بلکه ما خودمان آن را می‌سازیم. چالش‌ها و فرصت‌های بزرگی پیش‌روی خود داریم، طبیعت ما این است که خود را با چالش‌ها وفق دهیم و انسان‌ها نشان داده‌اند که وقتی با هم کار می‌کنیم، کاری وجود ندارد که نتوانیم انجام دهیم. زمان آن فرارسیده است که بر اختلافات حزبی خود غلبه کنیم و یاد بگیریم چگونه عاقلانه از این فناوری‌های جدید برای بهبود نوع بشر استفاده کنیم.
