شكایت نروژی به اوپنایآی؛ چتجیپیتی او را بهبهتان قاتل فرزندانش معرفی کرد

شكایت نروژی به اوپنایآی؛ چتجیپیتی او را بهبهتان قاتل فرزندانش معرفی کرد, یک شهروند نروژی به نام آروه یالمار هولمن از چتجیپیتی شکایت کرده است، زیرا این چتبات هوش مصنوعی او را بهبهتان متهم به قتل دو فرزند خردسال خود کرده بود. هولمن که خود را یک فرد عادی توصیف میکند، از ابزار هوش مصنوعی اوپنایآی خواسته بود اطلاعاتی درباره او ارائه دهد، اما پاسخ دریافتی حاوی ادعاهای کاملاً ساختگی و ترسناک بود.

ادعای کاذب هوش مصنوعی درباره قتل دو کودک در پاسخ به سوال آروه یالمار هولمن کیست؟، چتجیپیتی نوشته بود او پدر دو پسر ۷ و ۱۰ ساله است که در دسامبر ۲۰۲۰ در یک استخر نزدیک خانهشان در شهر تروندهایم نروژ غرق شدهاند. چتبات افزوده بود که این ماجرا جامعه نروژ را در شوک فرو برده و هولمن به تهمت قتل هر دو کودک، به ۲۱ سال زندان محکوم شده است.

تشابه جزئیات با زندگی واقعی، عامل افزایش خطر هولمن در شکایتی که به نهاد حفاظت از دادههای نروژ و با همکاری گروه دفاع از حقوق دیجیتال نویب تقدیم کرده، تأکید کرده که اگرچه داستان کاملاً ساختگی است، اما عناصری از زندگی واقعی او را در بر دارد. نام شهر محل سکونت، تعداد فرزندان و تفاوت سنی آنها از جمله جزئیاتی هستند که صحت ظاهری به این افترا بخشیده و نگرانی عمیق او را برانگیخته است.

نقض مقررات جیدیپیآر و درخواست جریمه شاکیان معتقدند پاسخ چتجیپیتی مصداق افترا است و اصل دقت اطلاعات در قانون حفاظت از دادههای عمومی اروپا (GDPR) را نقض کرده است. آنها از نهاد ناظر خواستهاند تا شرکت اوپنایآی را ملزم به اصلاح مدل خود برای جلوگیری از تولید اطلاعات کاذب درباره هولمن نماید و جریمهای برای این شرکت تعیین کند.

پاسخ اوپنایآی و بهروزرسانی مدل گروه نویب اعلام کرده که از زمان این مکالمه، اوپنایآی مدل جدیدی عرضه کرده که به جستجوی اینترنتی دسترسی دارد و احتمال تکرار چنین خطاها را کاهش داده است. سخنگوی اوپنایآی نیز بیان داشته که شرکت همچنان در حال تحقیق برای بهبود دقت مدلهاست و شکایت مربوط به نسخهای از چتجیپیتی است که اکنون بهروزرسانی شده و با قابلیت جستجوی آنلاین برای ارائه پاسخهای دقیقتر مجهز گردیده است.

چرا هوش مصنوعی هالوسیناسیون میکند؟ چتباتهایی مانند چتجیپیتی بر پایه پیشبینی کلمه بعدی در جمله کار میکنند، نه بر پایه دانستن حقایق. این مکانیزم امکان تولید اشتباهات یا ادعاهای بیپایه را فراهم میکند، در حالی که لحن طبیعی و مطمئن پاسخها باعث میشود کاربران گمان کنند تمام اطلاعات ارائهشده صحیح هستند.