«چت جی پی‌تی» چاپلوس شد_صبح سریع

به نقل از تک کرانچ، شرکت «اوپن‌ای‌آی» (OpenAI) گزارشی را از ابراز مشکل چاپلوسی در مدل هوش مصنوعی «چت‌جی‌پی‌تی» (ChatGPT) و «GPT-4o» انتشار کرده که این شرکت را ناچار کرده است به‌روزرسانی مدل منتشرشده در هفته قبل را به حالت قبل بازگرداند. 

بعد از به‌روزرسانی مدل GPT-4o، کاربران رسانه‌های اجتماعی فهمید شدند که چت‌جی‌پی‌تی جواب‌گویی را به روشای اغاز کرده که بیشتر از اندازه با نظرات کاربران موافق است و آن‌ها را تایید می‌کند. این نوشته به شدت به یک میم تبدیل شد. کاربران اسکرین‌شات‌هایی را از پیشنهاد‌های چت‌جی‌پی‌تی انتشار کردند که در حال موافقت کردن با کاربران درمورد انواع تصمیم‌ها و ایده‌های مشکل‌ساز و خطرناک می بود. 

«سم آلتمن» (Sam Altman)، مدیرعامل اوپن‌ای‌آی روز یکشنبه در حساب ایکس خود این مشکل را قبول کرد و او گفت که شرکت در اسرع زمان روی از بین بردن آن کار خواهد کرد. دو روز سپس، آلتمن خبرداد که به‌روزرسانی GPT-۴o به حالت قبل بازگشته و اوپن‌ای‌آی در حال کار کردن روی اصلاحات زیاد تر برای شخصیت مدل است. 

به حرف های اوپن‌ای‌آی، این به‌روزرسانی که قرار می بود یک حس شهودی‌تر و مؤثرتر را برای شخصیت پیش‌فکر مدل تشکیل کند، بیشتر از حد تحت تأثیر بازخوردهای مختصر‌زمان قرار گرفته و نحوه تکامل تعامل های کاربران با چت‌جی‌پی‌تی را به طور کامل و به مرور زمان در نظر نگرفته است. 

اوپن‌ای‌آی در یک پست وبلاگ نوشت: در نتیجه، GPT‑4o به سمت جواب‌هایی متمایل شد که بیشتر از حد حمایتی اما چاپلوسانه بودند. تعامل های چاپلوسانه می‌توانند ازردهکننده و دلواپس‌کننده باشند و علتپریشانی شوند. ما کوتاهی کردیم و در حال تلاش برای اصلاح آن هستیم. 

اوپن‌ای‌آی می‌گوید در حال اجرای چندین اصلاحیه از جمله اصلاح راهبردهای مهم آموزش مدل و دستورالعمل‌های سیستمی برای منحرف کردن GPT-4o از چاپلوسی است. دستورات سیستمی، دستورالعمل‌های اولیه‌ای می باشند که حرکت و لحن کلی مدل را در تعامل های هدایت می‌کنند. این چنین، این شرکت در حال تشکیل حفاظ‌های ایمنی زیاد تر برای افزایش صداقت و شفافیت مدل است و به گسترش برسی‌های خود برای پشتیبانی به شناسایی مشکلات فراتر از چاپلوسی ادامه می‌دهد. 

این چنین، اوپن‌ای‌آی او گفت در حال آزمایش راه حلهایی است که به کاربران پشتیبانی می‌کنند بازخورد بلادرنگ نشان دهند تا مستقیما بر تعامل های خود با چت‌جی‌پی‌تی تأثیر بگذارند و یک شخصیت را از بین چندین شخصیت چت‌جی‌پی‌تی انتخاب کنند. 

این شرکت در پست وبلاگ خود نوشت: ما در حال بازدید راه‌های جدیدی برای گنجاندن بازخوردهای گسترده‌تر و دموکراتیک در رفتارهای پیش‌فکر چت‌جی‌پی‌تی هستیم. امیدواریم این بازخوردها به ما پشتیبانی کنند تا قیمت‌های فرهنگی متنوع در سراسر جهان را بهتر منعکس کنیم و بفهمیم که کاربران می‌خواهند چت‌جی‌پی‌تی چطور تکامل یابد. این چنین، ما معتقدیم که کاربران باید کنترل بیشتری بر نحوه حرکت چت‌جی‌پی‌تی داشته باشند و در صورت‌عدم موافقت با حرکت پیش‌فکر، تا حدی که ایمن و مقدور است، تنظیماتی را انجام بدهند.