هوش مصنوعی می‌تواند بشر را نابود کند؟
این مطالعه با تأکید بر تأثیر بالقوه عظیم AGI خاطرنشان کرد که «انتظار داریم که این فناوری همچنین بتواند خطر آسیب‌های شدید را به همراه داشته باشد.» این مطالعه افزود که خطرات وجودی که « بشریت را نابود می‌کنند» نمونه‌های واضحی از آسیب‌های شدید هستند.
یک مقاله تحقیقاتی جدید از گوگل دیپ‌مایند پیش‌بینی کرده است که هوش مصنوعی در سطح انسان، که معمولاً به عنوان هوش مصنوعی عمومی (AGI) شناخته می‌شود، می‌تواند تا سال ۲۰۳۰ از راه برسد و «به طور دائم بشریت را نابود کند.»
این مطالعه با تأکید بر تأثیر بالقوه عظیم AGI خاطرنشان کرد که «انتظار داریم که این فناوری همچنین بتواند خطر آسیب‌های شدید را به همراه داشته باشد.» این مطالعه افزود که خطرات وجودی که « بشریت را نابود می‌کنند» نمونه‌های واضحی از آسیب‌های شدید هستند.
شایان ذکر است که این مقاله که شین لگ، یکی از بنیانگذاران دیپ‌مایند، نیز در نوشتن آن مشارکت داشته، به طور خاص نگفته است که چگونه AGI ممکن است منجر به انقراض بشر شود. در عوض، بر اقدامات پیشگیرانه‌ای تمرکز دارد که گوگل و سایر شرکت‌های هوش مصنوعی باید برای کاهش تهدید AGI انجام دهند.
این مطالعه خطرات هوش مصنوعی پیشرفته را به چهار دسته اصلی تقسیم می‌کند: سوء استفاده، عدم همسویی، اشتباهات و خطرات ساختاری. همچنین استراتژی کاهش خطر دیپ‌مایند را برجسته می‌کند که بر پیشگیری از سوء استفاده متمرکز است، جایی که افراد می‌توانند از هوش مصنوعی برای آسیب رساندن به دیگران استفاده کنند.
هشدار مدیرعامل دیپ‌مایند
در ماه فوریه، دیمیس هاسابیس، مدیرعامل دیپ‌مایند، اظهار داشت که هوش مصنوعی، که به اندازه یا باهوش‌تر از انسان‌ها خواهد بود، در پنج تا ده سال آینده شروع به ظهور خواهد کرد. او همچنین از یک سازمان ناظر شبیه به سازمان ملل برای نظارت بر توسعه AGI حمایت کرد.
آقای هاسابیس گفت: من از نوعی نظارت برای هوش مصنوعی حمایت می‌کنم، و منظورم از آن نوعی همکاری تحقیقاتی بین‌المللی متمرکز در سطح بالا در مرزهای توسعه هوش مصنوعی است تا سعی شود آن را تا حد امکان ایمن کنیم.
او افزود: همچنین باید آن را با نوعی مؤسسه مانند آژانس بین‌المللی انرژی اتمی مرتبط کنیم تا پروژه‌های ناامن را نظارت کرده و به آن‌ها رسیدگی کند. و در نهایت، نوعی نهاد فراتر که شامل بسیاری از کشورهای جهان باشد و در مورد نحوه استفاده و استقرار این سیستم‌ها نظر بدهد. بنابراین نوعی نظارت مانند سازمان ملل، چیزی که برای این منظور مناسب باشد، یک سازمان ملل فنی.
AGI چیست؟
AGI هوش مصنوعی را یک گام فراتر می‌برد. در حالی که هوش مصنوعی برای وظایف خاص طراحی شده است، هدف AGI داشتن هوشی است که می‌تواند در طیف گسترده‌ای از وظایف، مشابه هوش انسانی، به کار گرفته شود. در اصل، AGI ماشینی خواهد بود که توانایی درک، یادگیری و به کارگیری دانش در حوزه‌های متنوع را دارد، درست مانند یک انسان.
