آیا می‌توانیم به جستجوهای هوش مصنوعی اعتماد کنیم؟
گوگل و دیگر شرکت‌ها به طور فزاینده‌ای از خلاصه‌های تولیدشده توسط هوش مصنوعی در جستجوهای خود استفاده می‌کنند، اما این نتایج اعتبار کافی ندارند.
گوگل و دیگر شرکت‌ها به طور فزاینده‌ای از خلاصه‌های تولیدشده توسط هوش مصنوعی در جستجوهای خود استفاده می‌کنند، اما این نتایج اعتبار کافی ندارند. تب این مسئله با خبر ساختن موتورهای جستجوگر توسط شرکت‌هایی مانند اوپن‌ای‌آی داغ‌تر شده و مردم حتی خوشحال‌اند که از این به بعد می‌توانند پاسخ سؤالات خود را راحت‌تر پیدا کنند. اما آیا تمام پاسخ‌هایی که ما از چت‌بات‌ها و موتورهای جستجوی هوش مصنوعی می‌گیریم، قابل‌اتکا هستند؟
برای نمونه، بحث پیرامون سرطان‌زا بودن آسپارتام، شیرین‌کننده مصنوعی پرکاربرد، یکی از مباحثات پیچیده‌ای است که کاربران برای یافتن پاسخ آن به جستجو در گوگل یا استفاده از چت‌بات‌های هوش مصنوعی روی آورده‌اند. این چت‌بات‌ها که توسط مدل‌های زبانی بزرگ (LLM) پشتیبانی می‌شوند، معمولاً اطلاعاتی را اولویت می‌دهند که دارای زبان فنی مرتبط یا کلمات کلیدی است، اما ممکن است منابع علمی معتبر را نادیده بگیرند.
برای ساده‌ترین پرسش‌ها، چنین معیارهایی برای ارائه پاسخ‌های رضایت‌بخش کافی است. اما اینکه چت‌بات در مورد مباحث پیچیده‌تری مانند آنچه درباره آسپارتام وجود دارد، چه باید کند، کمتر مشخص است. «آیا می‌خواهیم آن‌ها صرفاً نتایج جستجوی شما را خلاصه کنند، یا می‌خواهیم مانند دستیاران تحقیقاتی کوچک عمل کنند و همه شواهد را بررسی کنند و تنها یک پاسخ نهایی را به شما ارائه دهند؟» این پرسشی است که گاردین مطرح می‌کند. گزینه دوم، حداکثر راحتی را فراهم می‌کند، اما معیارهایی که چت‌بات‌ها برای انتخاب اطلاعات استفاده می‌کنند را بیش از پیش مهم می‌سازد و اگر کسی بتواند به نحوی این معیارها را تغییر دهد، آیا می‌تواند تضمین کند که اطلاعاتی که چت‌بات به دیدگان میلیاردها کاربر اینترنتی ارائه می‌دهد، دست‌کاری شده باشد؟
بهینه‌سازی موتور تولیدی: (GEO) بازی جدید در جستجوی هوش مصنوعی
به گزارش گاردین، شرکت‌ها و تولیدکنندگان محتوا به‌تازگی به استفاده از تکنیک‌های جدیدی به نام بهینه‌سازی موتور تولیدی (GEO) روی آورده‌اند تا محتوای خود را برای چت‌بات‌های هوش مصنوعی جذاب‌تر کنند و شانس نمایش آن را افزایش دهند. این روش مشابه بهینه‌سازی موتور جستجو (SEO) است، اما شامل رویکردهای جامع‌تری است، مانند قرار گرفتن در وب‌سایت‌های معتبر و نشریات صنعتی که توسط تیم‌های روابط عمومی و برندینگ انجام می‌شود.
اصل پایه این روش مشابه بهینه‌سازی موتور جستجو (SEO) است که به روشی رایج تبدیل شده و طی آن صفحات وب به نحوی ساخته و نوشته می‌شوند که توجه الگوریتم‌های موتورهای جستجو را جلب کنند و در نتایج جستجو جایگاه بهتری بیابند. برخی تکنیک‌های GEO و SEO مشترک است و وب‌سایت‌هایی که برای موتورهای جستجو بهینه شده‌اند، شانس بیشتری برای ظاهر شدن در نتایج چت‌بات‌ها دارند. اما برای افرادی که می‌خواهند حضورشان در AI به حداکثر برسد، باید دیدگاه جامع‌تری داشته باشند.
ویولا اِوا، بنیان‌گذار شرکت بازاریابی Flow Agency که اخیراً از تخصص SEO به GEO تغییر برند داده است، می‌گوید: «رتبه‌بندی در موتورهای جستجوی هوش مصنوعی و مدل‌های زبانی بزرگ نیازمند ویژگی‌ها و ذکر نام در وب‌سایت‌های معتبر شخص ثالث، مانند رسانه‌های خبری، لیست‌ها، انجمن‌ها و نشریات صنعتی است. این‌ها وظایفی هستند که معمولاً به تیم‌های برندینگ و روابط عمومی اختصاص دارند.»
برخلاف SEO، قوانین واضحی برای دست‌کاری مدل‌های هوش مصنوعی وجود ندارد. اصطلاح بهینه‌سازی موتور تولیدی تنها در سال گذشته در مقاله‌ای علمی ابداع شد که نویسندگان آن نتیجه گرفتند که استفاده از زبان معتبر و رسمی همراه با ذکر منابع می‌تواند دیده شدن در پاسخ‌های چت‌بات‌ها را تا ۴۰ درصد افزایش دهد. با این حال، آن‌ها تأکید دارند که این یافته‌ها قطعی نیست و شناسایی قوانین دقیق چت‌بات‌ها ذاتاً دشوار است.
افرادی که می‌خواهند کنترل بیشتری بر چت‌بات‌ها داشته باشند، ممکن است به تکنیک‌های غیرشفاف‌تر روی بیاورند، مانند آنچه دو محقق علوم رایانه‌ای در دانشگاه هاروارد کشف کرده‌اند. آن‌ها نشان داده‌اند که چگونه چت‌بات‌ها را می‌توان با استفاده از یک رشته متن کنترل کرد. این «رشته استراتژیک متنی» شبیه به ترکیبی بی‌معنی از کاراکترها به نظر می‌رسد، اما در واقع دستوری پیچیده است که می‌تواند چت‌بات‌ها را به تولید پاسخ‌های خاص وادار کند. اگر این رشته به صفحه اطلاعات آنلاین محصولی مانند یک دستگاه قهوه‌ساز اضافه شود، احتمال اینکه چت‌بات‌ها نام دستگاه را در پاسخ‌های خود بیاورند افزایش می‌یابد. این تکنیک می‌تواند به خرده‌فروشان باهوش راهی ساده برای معرفی محصولاتشان در پاسخ‌های چت‌بات‌ها ارائه دهد. در واقع استفاده از رشته‌های متنی خاص که می‌تواند چت‌بات‌ها را وادار به تولید پاسخ‌های دلخواه کند.
تمام این تکنیک‌ها می‌توانند به شرکت‌ها امکان دهند که محصولاتشان را در پاسخ‌های چت‌بات‌ها نمایش دهند، حتی اگر محتوای موردنظر لزوماً محبوب یا باکیفیت نباشد.
چالش‌های جستجوی هوش مصنوعی
موتورهای جستجو و روش‌های بهینه‌سازی مرتبط با آن‌ها (SEO) مشکلاتی به وجود آورده‌اند؛ برای مثال، مقالات تکراری و محتوایی که صرفاً برای جذب الگوریتم‌های گوگل تولید می‌شوند و تجربه خواندن را برای کاربران ناخوشایند می‌کنند. اما چت‌بات‌های هوش مصنوعی مسائل عمیق‌تری را مطرح می‌کنند. در جستجوهای معمولی، کاربران می‌توانند از بین چندین منبع انتخاب کنند، اما چت‌بات‌ها تنها به چند منبع محدود اشاره می‌کنند که باعث دیده‌نشدن محتوای دیگران می‌شود و فقط به نفع کسانی است که چت‌بات آن‌ها را برگزیده است.
این موضوع برای کاربران نیز چالش‌هایی به همراه دارد. از آنجا که چت‌بات‌ها پاسخ‌های مستقیم ارائه می‌دهند، بسیاری از کاربران به دنبال بررسی منابع بیشتر نمی‌روند و به همان پاسخ به‌عنوان یک حقیقت مطلق اعتماد می‌کنند. این مسئله که به نام «دوراهی پاسخ مستقیم» شناخته می‌شود، می‌تواند دیدگاه‌های متفاوت را نادیده بگیرد و تصور اشتباهی از تنها بودن یک جواب معتبر ایجاد کند. به بیان ساده‌تر، این مفهوم به شرایطی اشاره دارد که وقتی یک چت‌بات یا هوش مصنوعی به سوالی پاسخ مستقیم می‌دهد، کاربران اغلب آن پاسخ را به‌عنوان تنها جواب درست می‌پذیرند و دیگر به دنبال منابع یا دیدگاه‌های مختلف نمی‌گردند. به بیان ساده، چت‌بات‌ها ممکن است دیدگاه‌های متفاوت و جنبه‌های مختلف یک موضوع را در پاسخ خود لحاظ نکنند و تنها یک پاسخ نهایی را ارائه دهند، که این می‌تواند تصویری از مطلق بودن آن پاسخ ایجاد کند، حتی اگر واقعاً تنها دیدگاه موجود نباشد.
در نتیجه، برای کاربرانی که به دنبال اطلاعات بی‌طرفانه و کامل هستند، سپردن جستجو به دست هوش مصنوعی چالش‌برانگیز خواهد بود.
