هوش مصنوعی در ریل قانون

کمیل احمدی لیوانی-پژوهشگر: سرعت توسعه فناوری‌های جدید در فضای رقابتی بین کشورهای مدعی و شرکت‌های بین‌المللی سرسام‌آور شده است؛ به‌ نوعی که با فاصله اندکی از رونمایی یک محصول جدید، شاهد ارائه محصول دیگری از سوی شرکت‌های رقیب هستیم تا از بازار عقب نمانند. اگر از این لایه در معرض دید فراتر رویم و به سطح کلان‌تر این روایت نگاهی بیندازیم، شاهد نزاعی گسترده برای جذب بیشترین منابع، هم از نوع منابع مالی و هم از نوع نخبگان و متخصصان حوزه‌های مختلف فناوری هستیم.

حاصل‌جمع سرعت پیشرفت و نزاع برای جذب منابع، به وجود آمدن فضایی است که سیستم‌های قانون‌گذاری را از چند زاویه متحمل دشواری‌هایی کرده است؛ چرا‌که انتخاب یک رویکرد تقنینی و سپس تدوین قوانین متناسب با آن رویکرد، به نوعی که تاب و تحمل تغییرات شتابان فناوری‌های جدید را داشته باشد و درعین‌حال‌ از سرعت رشد آن نکاهد و به‌ عنوان مانع عمل نکند، امر دشوار و پر‌چالشی است. اهمیت و جایگاه صعب تقنین زمانی خود را بیشتر نشان می‌دهد که توجه داشته باشیم اتخاذ هرگونه رویکرد مشخص در این زمینه، می‌تواند جایگاه امروز و فردای کشورها را تعیین کند. دراین‌باره، فناوری‌های مرتبط با هوش مصنوعی به‌ عنوان یکی از محمل‌ها و ابزارهای تعیین قدرت آینده جهان و همچنین به‌‌عنوان یک فناوری دارای ابعاد متعدد سازنده و مخرب، حائز اهمیت بیشتری نیز هست. با این اوصاف، نگاهی به قانون جامع هوش مصنوعی اتحادیه اروپا به‌ عنوان نخستین نمونه در نوع خود‌ جالب‌ خواهد بود.

مسیر جدید اتحادیه اروپا برای هوش مصنوعی

اتحادیه اروپا در قانون جامع هوش مصنوعی خود که مرحله دیگری از آن اخیرا عملیاتی شده است، برقراری نوعی تعادل بین تقویت نوآوری، توسعه فناوری و سرمایه‌گذاری از یک سو و بهره‌برداری از سیستم‌های فناورانه و هوش مصنوعی شفاف، ایمن و بدون تبعیض از سوی دیگر را مد نظر قرار داده است. بررسی این رویکرد هنگامی جالب‌تر می‌شود که تصویر بزرگ‌تر رقابت بین سه قطب مدعی ایالات متحده، چین و اتحادیه اروپا را در نظر بگیریم و در بررسی تبعات قانون جدید اتحادیه اروپا در‌باره هوش مصنوعی، گوشه چشمی هم به این رقابت جدی داشته باشیم. قانون هوش مصنوعی اتحادیه اروپا که مردادماه امسال لازم‌الاجرا شده، نخستین چارچوب قانونی در نوع خود در جهان شناخته می‌شود.

در این قانون که براساس یک رویکرد مبتنی‌بر ریسک و مطابق میزان تأثیر سیستم‌های هوش مصنوعی بر جامعه و افراد تدوین شده، سیستم‌های پرخطر باید قبل از عرضه به بازار، ارزیابی‌های دقیقی را پشت سر بگذارند و الزامات سخت‌گیرانه‌ای را رعایت کنند. در مقابل، سیستم‌های کم‌خطر نیازی به تنظیمات خاصی ندارند. در مرحله کنونی هوش مصنوعی با خطر غیرقابل‌ قبول‌ ممنوع شده است. این دسته از سیستم‌های هوش مصنوعی در بالاترین درجه خطر در دسته‌بندی چهارگانه اتحادیه قرار دارند و در مراحل بعدی، مقررات بیشتری نسبت به بقیه سطوح اعمال می‌شود.

هوش مصنوعی ممنوعه به‌ عنوان دسته نخست در این دسته‌بندی، به سیستم‌های هوش مصنوعی اطلاق می‌شود که با داشتن خطر غیرقابل‌ قبول، برخلاف اخلاق اتحادیه اروپا بوده و تهدیدی آشکار برای ایمنی، حقوق، آزادی‌های اساسی افراد و معیشت نوع بشر محسوب می‌شود. بر‌اساس ماده ۵ این قانون، هوش مصنوعی با خطر غیرقابل‌ قبول شامل سیستم‌هایی می‌شود که به امتیازدهی اجتماعی مربوط‌ هستند یا شناسایی بیومتریک مبتنی‌بر طبقه‌بندی افراد بر‌اساس ویژگی‌هایی مانند نژاد، باورهای مذهبی و گرایش‌های جنسی را انجام می‌دهند‌ یا سیستم‌هایی که رفتار انسانی را دست‌کاری کرده و مختل می‌کنند. در سطح بعدی، هوش مصنوعی پرخطر به‌ عنوان سیستم‌های هوش مصنوعی با ریسک بالا قرار دارند که تهدیدی قابل‌ توجه برای سلامت، ایمنی، حقوق اساسی و حاکمیت قانون هستند.

این سیستم‌ها باید قبل از عرضه به بازار، ارزیابی‌های دقیقی را پشت سر بگذارند و از تعهدات گسترده‌ای مانند ارزیابی ریسک کافی و نظارت انسانی مناسب پیروی کنند. هوش مصنوعی با ریسک بالا آن‌گونه که در ماده ۶ و پیوست ۳ به آن پرداخته شده، شامل سیستم‌های هوش مصنوعی مورد استفاده در حوزه‌های حساس مانند استخدام، آموزش، نظارت قانونی‌ یا خدمات ضروری و زیرساخت‌های حیاتی می‌شوند. هوش مصنوعی با ریسک متوسط که در سطح بعدی قرار دارد، بر‌اساس ماده ۵۲ این قانون شامل سیستم‌هایی هستند که هیچ تهدید جدی ایجاد نمی‌کنند و خطر اولیه مرتبط با چنین سیستم‌هایی به دلیل نبود شفافیت است.

قانون هوش مصنوعی اتحادیه اروپا تعهدات شفافیت خاصی را معرفی کرده است تا اطمینان حاصل کند همه کاربران انسانی به‌خوبی از تعامل با یک سیستم هوش مصنوعی مطلع خواهند شد. نمونه‌ای از سیستم‌های هوش مصنوعی با ریسک محدود، چت‌بات‌ها هستند. تا زمانی که به کاربران انسانی اطلاع داده شود که با یک سیستم هوش مصنوعی با ریسک محدود تعامل دارند، چنین سیستمی تحت قانون هوش مصنوعی اتحادیه اروپا تهدید قابل‌ توجهی محسوب نمی‌شود. هوش مصنوعی با ریسک حداقل، هیچ خطر واقعی مرتبطی ندارند و می‌توانند بدون هیچ محدودیتی به‌ کار‌ گرفته شوند. بازی‌های ویدئویی با هوش مصنوعی و سیستم‌های مدیریت موجودی نمونه‌هایی از سیستم‌های هوش مصنوعی کم‌خطرند که نیاز به تنظیم‌گری خاصی ذیل قانون هوش مصنوعی اتحادیه ندارند.

دامنه تأثیرات و تبعات تنظیم‌گری جدید اتحادیه اروپا

تصویب قانون جدید هوش مصنوعی در اتحادیه اروپا می‌تواند به یک نقطه کانونی در رقابت جهانی در این حوزه تبدیل شود. این قانون می‌تواند به‌‌عنوان یک نقطه عطف در تنظیم مقررات هوش مصنوعی در سطح جهانی عمل کند و سایر کشورها یا مناطق را تحت ‌تأثیر قرار دهد تا قوانین مشابهی را تصویب کنند یا رویکردهای متفاوتی را در پیش بگیرند. در شرایط کنونی، قانون هوش مصنوعی اتحادیه اروپا در غیاب هر قانون دیگری احتمالا تا اطلاع ثانوی استاندارد جهانی برای تنظیم سیستم‌های هوش مصنوعی خواهد بود و این یعنی رقابت در تنظیم استانداردهای جهانی. اتحادیه اروپا در این مسیر تلاش خواهد کرد تا استانداردهای خود را به‌ عنوان معیارهای جهانی برای هوش مصنوعی معرفی کند و این موضوع می‌تواند منجر به رقابت با سایر کشورها یا مناطق شود که استانداردهای متفاوتی دارند یا در آینده چنین استانداردهایی وضع خواهند کرد؛

به‌ عبارت‌ دیگر، رویکرد اتحادیه اروپا با تصویب قوانین نسبتا سخت‌گیرانه‌تر در حوزه هوش مصنوعی، ممکن است با رویکردهای متفاوت کشورهایی مانند ایالات متحده، چین یا انگلیس در تضاد قرار بگیرد. چین به‌سرعت در حال توسعه فناوری‌های هوش مصنوعی با نظارت دولتی است، در حالی‌ که ایالات متحده بیشتر بر نوآوری و آزادی عمل شرکت‌ها تأکید دارد. در چنین شرایطی، رویکرد تقنینی اتحادیه اروپا با تمرکز بر اخلاق و حریم خصوصی، ممکن است با این مدل‌ها در تعارض قرار گیرد. تبعات تقابل رویکردهای متفاوت تقنینی قدرت‌های فعال حوزه هوش مصنوعی را می‌توان در فشاری که به‌واسطه جریمه‌ها بر شرکت‌های حوزه فناوری بار خواهد شد بیشتر درک کرد.

اتحادیه اروپا مانند مقررات حفاظت از داده‌های عمومی «GDPR»، در قانون هوش مصنوعی نیز جریمه‌های سخت‌گیرانه‌ای را برای اطمینان از انطباق با قانون هوش مصنوعی پیشنهاد کرده است. شدت جریمه به عوامل مختلفی از جمله نوع تخلف، اندازه شرکت و هرگونه تخلف قبلی بستگی دارد. بیشتر تخلفات طبق این قانون مشمول جریمه‌هایی تا سقف ۱۵ میلیون یورو یا سه درصد از کل گردش مالی متخلف در سراسر جهان برای سال مالی قبل خواهد بود (هر‌کدام بیشتر باشد اعمال خواهد شد). با این‌ حال، تخلف از ماده ۵ یا همان هوش مصنوعی با خطر غیرقابل‌ قبول، مشمول جریمه‌هایی تا ۳۵ میلیون یورو یا هفت درصد از کل گردش مالی متخلف خواهد بود.

از آنجایی‌ که این قانون بدون در نظر گرفتن محل تأسیس، برای ارائه‌دهندگان و توسعه‌دهندگان اعمال می‌شود، اجرای این قانون بر شرکت‌های مستقر در ایالات متحده که در اتحادیه اروپا فعالیت می‌کنند نیز اثر خواهد داشت. شرکت‌های بزرگ فناوری که در حوزه هوش مصنوعی فعال هستند (مانند گوگل، مایکروسافت، OpenAI و...) ممکن است مجبور شوند استراتژی‌های خود را با قوانین جدید اتحادیه اروپا تطبیق دهند. از آنجایی که اتحادیه اروپا بر اخلاقیات، شفافیت و مسئولیت‌پذیری در هوش مصنوعی تأکید دارد، رویکرد ریسک‌محور اتحادیه مبتنی‌بر تأثیر این موضوع ممکن است با رویکردهای سودمحور یا امنیت‌محور سایر کشورها در تضاد باشد.

جمع‌بندی

تصویب قانون جدید هوش مصنوعی در اتحادیه اروپا شاید به معنای شروع یک جنگ تمام‌عیار راهبردی در زمین تنظیم‌گری سیستم‌های هوش مصنوعی نباشد، اما قطعا نشان‌دهنده افزایش رقابت و چالش‌ها در این حوزه است. این موضوع نه‌تنها بر سرمایه‌گذاری، بلکه بر تنظیم مقررات، اخلاقیات، نوآوری و رقابت بین کشورها و شرکت‌ها تأثیر می‌گذارد. به‌ عبارت‌ دیگر، این قانون ممکن است به‌تنهایی منجر به «جنگ» نشود، اما قطعا تنش‌ها و چالش‌های جدیدی را در حوزه هوش مصنوعی ایجاد خواهد کرد و این موضوع مهمی است؛ چرا‌که هوش مصنوعی نوآوری را هدایت، صنایع را ایجاد‌ و قدرت اقتصادی را تقویت می‌کند. کسانی که در هوش مصنوعی پیشرو هستند، زمین بازی قدرت جهانی را شکل خواهند داد. هوش مصنوعی دیگر فقط یک موضوع در حوزه فناوری نیست، این فناوری، پایه و اساس قدرت اقتصادی و ژئوپلیتیکی آینده است و کشورهای مدعی بیکار نخواهند ماند.