یافته تازه: درخواست جواب‌های کوتاه، دقت چت‌بات را کم می‌کند

درخواست ساده‌ای مثل «مختصر جواب بده» احتمالاًعملکرد چت‌بات‌ها را بیشتر از آنچه تصور می‌کنید به خطا بکشاند.

مطالعه‌ای جدید از شرکت فرانسوی Giskard نشان می‌دهد که درخواست برای پاسخ‌های کوتاه می‌تواند دقت مدل‌های هوش مصنوعی را کاهش دهد. این شرکت که روی ارزیابی عملکرد مدل‌های زبانی کار می‌کند، هشدار داد که درخواست پاسخ کوتاه باعث افزایش «توهم» یا تولید اطلاعات ساختگی در چت‌بات‌ها می‌شود.

به گفته‌ی محققان، هنگامی‌که از مدل خواسته می‌شود مختصر پاسخ دهد، به دلیل محدودیت در فضای توضیح نمی‌تواند به‌خوبی فرضیات غلط در سؤال را اصلاح کند. درنتیجه، اولویت دادن به اختصار به‌ویژه در پرسش‌های مبهم یا گمراه‌کننده می‌تواند دقت پاسخ را قربانی کند.