اقتصاد الگوریتمی؛ بیم‌ها و امیدها
اقتصاد الگوریتمی بخشی جدایی‌ناپذیر از اقتصاد دیجیتال است که منافع و چالش‌های جدیدی را برای جوامع مختلف ایجاد کرده و می‌کند. این روزها در کشورمان زیاد شنیده می‌شود که مسئولان و فعالان حوزه دیجیتال دم از سامانه‌ای‌شدن بیشتر خدمات حوزه‌های مختلف اقتصادی در راستای بهبود کارایی، شفافیت و رضایت مردم و... می‌زنند.
اقتصاد الگوریتمی بخشی جدایی‌ناپذیر از اقتصاد دیجیتال است که منافع و چالش‌های جدیدی را برای جوامع مختلف ایجاد کرده و می‌کند. این روزها در کشورمان زیاد شنیده می‌شود که مسئولان و فعالان حوزه دیجیتال دم از سامانه‌ای‌شدن بیشتر خدمات حوزه‌های مختلف اقتصادی در راستای بهبود کارایی، شفافیت و رضایت مردم و... می‌زنند. ضمن تأیید این منافع اقتصاد دیجیتالی باید گفت این، همه وجود اقتصاد دیجتیالی بهویژه در بعد اقتصاد الگوریتمی آن نیست. بروز سه پدیده مهم فیلترینگ، سقلمه بیش از حد (Hypernudging، یعنی ارتباطاتی که شخصی را به سمت انتخابی سوق می‌دهد و در عین حال دائم اطلاعاتی را که ارتباطات بر آن تکیه می‌کند، به‌روز می‌کند) و هدف‌گذاری خرد (ارتباطاتی که گروه‌های انتخابی را هدف قرار می‌دهند) در صورت نبود قانون شفاف، مسئولیت و ضمانت اجرائی برای آنها می‌توانند باعث قطبی‌شدن جامعه، اقتصاد و ایجاد منافع برای گروه‌های خاص شده و در نتیجه پتانسیل مشورتی و مشارکتی یک جامعه را تضعیف کنند. اینها مسائل و چالش‌های مفهوم گسترده اقتصاد دیجیتال هستند. در اینجا درباره پدیده فیلترینگ که کارکرد آن بیشتر روشن است بحث نمی‌کنیم و به دو موضوع دیگر که کمی پیچیده‌تر هستند پرداخته می‌شود. دراین‌باره، اقتصاد الگوریتمی ممکن است از یک منظر فرصتی باشد برای برخی افراد که ارتباطات الگوریتمی دارند و از پیچیدگی‌های الگوریتمی برای مصون‌ماندن از تلاش برای جهت‌دهی و اعمال نفوذ در افراد و جامعه استفاده کنند و از طرف دیگر سایر افراد جامعه که از این ابزارها استفاده می‌کنند در معرض ریسک جهت‌دهی یا اعمال نفوذ قرار گیرند. ارتباطات الگوریتمی مانند سقلمه‌های بیش از حد می‌توانند تهدیدی برای مشارکت اقتصادی و اجتماعی باشند. هدف‌گذاری خرد هم می‌تواند برای مشارکت افراد عادی جامعه مشکل‌ساز باشد. شهروندان کم‌اطلاع، زمانی که در گروه‌هایی شبکه‌ای شرکت نمی‌کنند، ممکن است در برابر اعمال نفوذ آسیب‌پذیر باشند و این امر باعث تعمیق نابرابری اقتصادی و اجتماعی شود. در اینجا یک نابرابری در تفاوت در نوع اطلاعات و دیگری در قدرت اطلاعات وجود دارد. البته این نابرابری‌ها ممکن است همیشه ناعادلانه نباشد. خود ایده اعمال نفوذ الگوریتمی اساسا یک مفهوم اخلاقی است که با انگیزه‌های اخلاقی جهت‌دهنده مفروض ارتباط دارد و اساسا برای بافت و آحاد جامعه مناسب نیست.
یکی از مفاهیم برجسته اعمال نفوذ این است که جهت‌دهی شامل تأثیرگذاری بر یک فرد به‌گونه‌ای است که به اندازه کافی عقلانیت آن شخص را درگیر نمی‌کند. واضح است که مردم اغلب درگیر انواع اشکال استدلال بد هستند، درحالی‌که فکر می‌کنند استدلال ارائه‌شده بد نیست. فرایندهای سقلمه بیش از حد، هدف‌گذاری خرد و فیلترینگ لزوما مواردی از جهت‌دهی عینی نیستند اما موارد اصلی اعمال نفوذ هستند. در اقتصاد الگوریتمی بحث «سقلمه» موضوع مهمی است. بحث‌های سقلمه یا تلنگر عمدتا در سه زمینه مختلف رخ می‌دهند. دولتی، تجاری و سیاسی. چه چیزی در مورد اعمال نفوذ در اقتصاد الگوریتمی متمایز است؟ سقلمه‌های بیش از حد شکلی از سقلمه هستند که به‌طور مداوم براساس داده‌هایی که یک الگوریتم از شما و دیگران دریافت می‌کند، سقلمه را مجددا پیکربندی می‌کند و براساس اطلاعات و الگوریتم موجود، حرکت را تغییر می‌دهد. یک مثال ساده از یک سقلمه بیش از حد دستورالعمل‌های پلت‌فرم‌های ترافیکی هستند که اکثر رانندگان استفاده می‌کنند. این الگوریتم‌ها زمانی ارائه می‌شوند که شخصی درحال حرکت به سمت مسیر هدف‌گذاری‌شده است. این سیستم سریع‌ترین راه را برای رسیدن به مقصد به راننده پیشنهاد می‌دهد اما اگر راننده در یک مسیر خاص از مسیر پیشنهادی منحرف شد یا بیش از حد دور شد، می‌تواند مسیرها را دوباره محاسبه کند. یک سیستم توصیه‌گر نیز این ویژگی را دارد. هر‌بار که شخصی کتابی را در یک پلت‌فرم دیجتیالی می‌خرد، سیستم کتاب‌های دیگری را که ممکن است دوست داشته باشد با توجه به آنچه در گذشته خریده است و همچنین با توجه به آنچه دیگرانی که همان کتاب را خریداری کرده‌اند به وی توصیه می‌کند. این سیستم به‌طور پیوسته تنظیم می‌شود زیرا اطلاعات جدیدی درباره شخصی که به او سقلمه زده می‌شود، ارائه می‌دهد.
هدف‌گذاری خرد شامل استفاده از الگوریتم‌هایی برای هدف‌یابی پیام‌ها به گروه‌های خاصی از افراد است که با توجه به تمام داده‌های جمع‌آوری‌شده درباره آنچه آنها و دیگران به‌طور مشابه دنبال آن بوده‌اند، توسط آنها منتقل می‌شوند. هدف‌گذاری خرد قابلیت شخصی‌سازی فراوان دارد، به این معنا که الگوریتم‌های اعمال‌شده روی داده‌ها به فرد می‌گوید چه نوع پیامی را برای گروه بسیار کوچکی از افراد که دارای ویژگی‌های مربوطه هستند، ارسال کند. می‌توان از آن برای شکل‌دادن به توسعه عقاید یا مصرف کالای خاص در یک جهت خاص نیز استفاده کرد؛ مانند کانال‌ها و گروه‌های پیام‌رسان‌های اجتماعی. هدف‌گذاری خرد می‌تواند از بسیاری جهات اعمال نفوذ شود که می‌تواند بسیار هیجانی باشد، خشم یا ترس را برانگیزد و ممکن است شامل حقایق نیمه‌واقعی، اطلاعات نادرست آشکار یا استنتاج‌های عجولانه باشد. دو نگرانی در اینجا وجود دارد که مورد توجه است؛ نخست، سیستم توصیه‌کننده ممکن است بر افرادی که به‌خوبی آگاه نیستند و باید سریع تصمیم بگیرند، تأثیری جهت‌دار داشته باشد. دوم، حتی درباره تأثیرات نسبتا خوش‌خیم، ممکن است تأثیر کلی و جمعی مهم وجود داشته باشد. اگر تأثیر سیستم توصیه‌گر این باشد که احتمال خرید کالا یا خدمتی را به میزان بسیار کمی افزایش دهد، زمانی که میلیون‌ها نفر دارای موقعیت مشابه تحت تأثیر قرار گیرند، این احتمال به تعداد قابل‌توجهی تبدیل می‌شود. دراین‌باره فرض کنید فردی معتقد باشد که نیاز فوری به درمان پزشکی برای زنده‌ماندن دارد. فرض کنید فرد اطلاعات کمی درباره پزشکی دارد و باید خیلی سریع تصمیم بگیرد. یک سیستم توصیه‌کننده متخصص ممکن است در این زمینه کاملا جهت داده شود. ترکیبی از جهل، ضرورت، زمان محدود و اضطراب ممکن است چارچوب‌بندی دسترسی را در این شرایط بسیار قدرتمند کند. توصیه‌کننده متخصص ممکن است تقریبا انتخاب بیمار را تعیین کند که به چندین عامل درباره بیمار و شرایط آن بستگی دارد. در این مورد، ممکن است بیمار درگیر فردی شود که برای مریض یک نوع درمان گران‌قیمت را اتخاذ کند و بیمار در برابر پیشنهاد وی بسیار آسیب‌پذیر باشد؛ بنابراین بیمار در برابر اعمال نفوذ آسیب‌پذیر می‌شود. در اینجا باید توجه داشته باشیم که حتی شرایطی که در بالا توضیح داده شد برای جهت‌دهی کافی نیستند. ما معمولا فکر می‌کنیم که یک پزشک در این شرایط می‌تواند گزینه‌ها را به‌گونه‌ای ارائه کند که صرفا برای پیشبرد علایق خود پزشک یا دیگران طراحی نشده باشد و به‌خوبی مطابق با نیازهای فرد باشد. پزشک یا تیم پزشکی بسیار وظیفه‌شناس می‌توانند جایگزین‌ها و پیش‌بینی‌هایی را به روش‌هایی ارائه دهند که مشمول جهت‌گیری نباشد و حتی اگر تصمیم در‌نهایت کاملا منطقی نباشد، یک الگوریتم مشاوره متخصص می‌تواند به روشی مشابه راه‌اندازی شود اما ممکن است بیمار در شرایطی باشد که با تمایل به فروش گران‌ترین محصول به آن بتوان از ناآگاهی بیمار و آسیب‌پذیری سیستم شناختی او سوءاستفاده کرد؛ در این حالت، علایق و اراده‌های تأثیرگذار و تأثیرپذیر همسو نیستند و تأثیرگذار ممکن است مایل باشد که اقدامات زیادی انجام دهد تا تأثیرپذیران را به خرید وادار کند. دراین‌باره افراد آگاه و محتاط به راحتی قابل اعمال نفوذ نیستند. نکته دیگری که در اینجا قابل توجه است این است که اقدامات جهت‌دهی همیشه نادرست نیستند، حتی زمانی که موفق به اعمال نفوذ شخصی شوند. دست‌کم برخی از اشکال اعمال نفوذ پدرانه می‌تواند قابل‌قبول باشد که جهت‌دهنده به‌شدت با منافع جهت‌دهی هماهنگ باشد و زمانی می‌توان انتظار داشت قربانی غیرمنطقی یا بی‌احتیاط عمل کند (اما نه به دلایل اخلاقی) که یک شکل به‌خصوص ساده و غیرتهاجمی وجود دارد.
ازاین‌رو با گسترش اقتصاد الگوریتمی و امکان جهت‌دهی چندین چالش مهم ایجاد می‌شود؛ نخست، می‌تواند فرایندهای مشورتی را تضعیف کند و می‌تواند درک افراد را از علایق یکدیگر و راه‌هایی که می‌توان از آن طریق آنها را پیش برد، به عقب براند. دوم، منبع بالقوه مهمی از نابرابری‌های مختلف در میان شهروندان باز می‌شود. دلیل این امر این است که در اقتصاد الگوریتمی، شهروندان باید براساس عقلانیت اطلاعات کم عمل کنند. سطوح پایین اطلاعات بخشی از آن چیزی است که افراد را مستعد اعمال نفوذ از طریق هدف‌گیری خرد یا سقلمه زیاد می‌کند. با گسترش سامانه‌ها و پلت‌فرم‌های دیجیتالی در کشور افراد عادی جامعه در شرایطی زندگی می‌کنند که برخی افراد در مقایسه با آنها نسبت به مسائل اقتصادی و سیاسی و اجتماعی اطلاعات کمتری دارند. این فقدان قدرت اطلاعات است که مردم را در برابر اعمال نفوذ و در برابر افرادی که چنین قدرت زیادی دارند آسیب‌پذیر می‌کند. خود قدرت اطلاعات دو بعد دارد؛ بعد اول مربوط به توانایی درک اطلاعات و جست‌وجوی اطلاعات قابل‌فهم درباره روشی است که نظام اقتصادی و اجتماعی می‌تواند منافع فرد را همراه با خیر عمومی پیش ببرد. این امر مستلزم منابعی برای توسعه تصورات فرد از منافع خود و خیر عمومی است و همچنین منابع اساسی برای ارزیابی اینکه آیا جامعه این اهداف را دنبال می‌کند نیاز دارد. این توانایی‌ها برای درک کافی از قدرت در جامعه ضروری هستند. داشتن قدرت و قدرت مشارکت برای شرکت در جامعه بدون شرایط شناختی مانند داشتن یک ماشین بدون دانستن نحوه استفاده از آن یا هیچ تصوری از مسیر است. شما منبعی دارید که بر شما تأثیر می‌گذارد اما قدرتی برای دنبال‌کردن اهداف خود ندارید. شما ممکن است با این قدرت بتوانید از اطلاعات استفاده کنید اما به‌طور قابل‌اعتمادی قادر به پیشبرد منافع یا اهداف اخلاقی جامعه و خود نیستید.
بعد دیگر قدرت اطلاعات، قدرت انتشار اطلاعات است. انتشار اطلاعات، شامل ارتباطاتی است که به‌صورت الگوریتمی تعیین می‌شوند. هریک از این فعالیت‌ها نیاز به تخصص، بودجه و انرژی زیادی دارد که تعارض جدی در جامعه به وجود می‌آورد. منافع و اهداف بین کسانی که ارتباطات الگوریتمی را تأمین مالی می‌کنند و بسیاری از کسانی که آنها را دریافت می‌کنند شکل می‌گیرد و یکی از شرایط ضروری اعمال نفوذ به وجود می‌آید. این شرایط اجتماعی مهم هستند. هر فرد باید درک مؤثری را در خود ایجاد کند درحالی‌که اساسا به یک تقسیم کار شناختی بستگی دارد. افراد برای انجام کارهایشان، مراقبت از خانواده و دوستان، اطمینان از حفظ درست حرفه‌هایشان، فقط می‌توانند مقدار کمی از زمان و انرژی خود را به چیزهایی که به آنها وابسته‌اند اختصاص دهند. در زندگی خصوصی، افراد به پزشکان، مکانیک‌ها، مشاوران مالی، لوله‌کش‌ها و... وابسته‌اند تا بدانند چه چیزی برای موفقیت در زندگی‌شان ضروری است. یعنی افراد به «نوعی شناخت توزیع‌شده» وابسته‌اند و به‌گونه‌ای است که بسیاری از دانشی که در تصمیم‌گیری خود به آن تکیه می‌کنند، در اختیار دیگران است. این وابستگی شناختی یکی از حقایق اصلی زندگی خصوصی ما و زندگی ما به‌عنوان شهروند است. این زمینه عقلانیت اطلاعات کم است که در اینجا برای نگرانی درباره اعمال نفوذ اهمیت دارد. این وابستگی شناختی در سراسر علوم اجتماعی بهویژه اقتصاد دیده می‌شود. وابستگی شناختی باعث می‌شود توانایی‌های ما برای حرکت در زندگی، به‌شدت به کیفیت شبکه‌های افرادی که این شناخت در آنها رخ می‌دهد، وابسته باشد و اقتصاد الگوریتمی به مفهوم جدید آن آنها را گسترش داده است. اگر در جامعه‌ای زندگی کنیم که در آن نتوانیم به پزشکان، بانک‌ها، مکانیک‌ها، برق‌کارها و... اعتماد کنیم، منافع افراد از بین می‌رود و احتمالا کل جامعه موفق نخواهد شد. این نتیجه یک نوع انتخاب نامطلوب گسترده خواهد بود که در آن افراد تصمیمات نامطلوبی می‌گیرند، زیرا نمی‌توانند به دیگران برای دانستن یک موضوع، مشاوره خوب یا درگیرشدن در شیوه‌های صحیح متکی باشند. وابستگی شناختی چیزی است که ما را به‌طور بالقوه در برابر اعمال نفوذ آسیب‌پذیر می‌کند و این به این دلیل است که توانایی‌های شناختی ما چندان توسعه نیافته‌اند. همه این موارد این موضوع را گوشزد می‌کند که با گسترش فناوری‌های دیجیتالی و توسعه اقتصاد الگوریتمی که پلت‌فرم‌های تجاری، دولتی و سیاسی و فعالیت‌های دیجیتالی همراه با هوش مصنوعی گسترش می‌یابند؛ دو روی سکه این توسعه را باید دید. یعنی علاوه بر نقش آنها در بهبود کارایی، شفافیت و... باید به ابعاد تبعیض و اعمال نفوذ و چالش‌های آن‌هم در اقتصاد ایران توجه شود و قوانین و مقررات در اقتصاد به‌روز، شفاف و با نظارت دقیق تنظیم‌گر، با هدف مسئولیت‌پذیری، خیر عمومی، حفظ حریم خصوصی و توسعه اقتصاد و کسب‌وکارها تنظیم شود و شرایط برای ایجاد اعتماد و استفاده از منافع اقتصاد الگوریتی در بستر جامعه فراهم شود که خلأ آن در اقتصاد ایران به‌شدت مشهود است.
