گوگل به چت‌بات بارد، تردید کردن را می‌آموزد
علمی
بزرگنمايي:
پیام سپاهان - زومیت / گوگل بارد امکان جدیدی اضافه کرده است که درستی متن پاسخ تولید شده را بار دیگر با جست‌و‌جو در اینترنت، بررسی و نتیجه را به کاربر اعلام می‌کند.
از روزی که چت‌بات‌ها به دنیا آمدند، سازندگان آن‌ها هشدار دادند که بهشان اعتماد نکنیم. متن‌های تولید شده توسط ابزارهایی مانند ChatGPT به پایگاه داده‌ای که کاملاً استوار بر حقایق باشد متکی نیستند. در عوض، چت‌بات‌ها بر اساس حجم بسیار زیاد متن‌هایی که مدل زبان بزرگ (LLM) آن‌ها را آموزش داده‌اند حدس‌هایی در مورد درستی مفاهیم می‌زنند. در نتیجه، گاهی دچار اشتباه می‌شوند و ممکن است حتی افراد تحصیل‌کرده را نیز فریب دهند.
این وضعیت از اعتبار چت‌بات‌ها به‌عنوان دستیارهای قابل اطمینان در کارهای تحقیقاتی کم می‌کند. آن‌ها پاسخ هر سؤالی را در عرض چند ثانیه به شما می‌گویند؛ اما در اکثر موارد بدون ارجاع به منابع خود. به عبارت دیگر، شما ممکن است مجبور شوید وقت زیادی را صرف بررسی درستی پاسخ‌های آن‌ها کنید که درواقع هدف اصلی استفاده از این چت‌بات‌ها یعنی صرفه‌جویی در زمان را از بین می‌برد.
در به‌روزرسانی جدید، گوگل بارد گزینه‌ای را برای بررسی مجدد، تحت عنوان "Google It" اضافه کرده است که با کلیک روی آن، سؤال یا درخواست کاربر، در گوگل جست‌و‌جو و با پاسخی که توسط بارد تولید شده مقایسه می‌شود. هر قسمت از متن که با سایت‌ها یا منابع دیگر مشترک باشد با رنگ سبز مشخص می‌شود. با کلیک کردن روی جمله‌ی هایلایت شده، کاربر می‌تواند لینک منبع آن را ببیند.
بررسی مجدد یک درخواست باعث می‌شود که بسیاری از جملات در داخل پاسخ به رنگ سبز یا نارنجی تغییر کنند. پاسخ‌های سبزرنگ به صفحاتی که به آن‌ها ارجاع شده‌اند متصل هستند. اما جملاتی که با رنگ نارنجی مشخص شده‌اند نشان می‌دهند که نتایج جست‌و‌جو ممکن است با آن جملات مغایر باشند یا حداقل آن‌ها را تأیید نکنند. در مورد جملات بدون رنگ نیز بارد نمی‌داند اطلاعات از کجا آمده‌اند و این نکته ممکن است به وجود اشتباه اشاره کند.
افزودن امکان بررسی مجدد، گامی روبه‌جلو برای بارد است؛ اما اغلب لازم است که جملات ارجاع شده با منبع اصلی مطابقت داده شده و از تفسیر درست بارد اطمینان حاصل شود. در تولید مطالب پژوهشی، انسان‌ها و چت‌بات‌ها همچنان باید یکدیگر را پیش ببرند. واضح است که درخواست‌هایی مانند نوشتن متن یک ایمیل یا پیشنهاد یک سفر یا چیزهایی از این قبیل نیازی به بررسی مجدد و صحت‌سنجی ندارد.
چت‌بات گوگل اخیراً به به‌روزرسانی دیگری دست یافت و اکنون می‌تواند به جیمیل، درایو، نقشه و یوتیوب دسترسی پیدا کند. به‌این‌ترتیب امکان جستجو، خلاصه‌نویسی و پرسش در مورد اسناد موجود در حساب گوگل کاربر فراهم شده است؛ اما تجربه‌ی کاربران نشان می‌دهد که هنوز با خطاهای زیادی همراه است.
سؤال اینجاست که هوش مصنوعی در طولانی‌مدت تا چه اندازه قادر به بررسی و ارتقاء خود خواهد بود. فعلاً وظیفه‌ی هدایت چت‌بات‌ها به سوی پاسخ صحیح همچنان بر دوش خود شخص است. در این شرایط نیاز به ابزارهای هوش مصنوعی که منابع مرجع ربات‌ها را ارائه کنند به‌شدت احساس می‌شود.
لینک کوتاه:
https://www.payamesepahan.ir/Fa/News/776015/