چالشهای جعل عمیق در سینما و موسیقی: وقتی هوش مصنوعی چهره و صدای هنرمندان را دزدی میکند

چالشهای جعل عمیق در سینما و موسیقی وقتی هوش مصنوعی چهره و صدای هنرمندان را دزدی میکند, به تعبیر یک نوجوان ایرانی، نهایت بهرهگیری ما از هوش مصنوعی پیروی از صدای هایدِه شده است؛ تلخی که متأسفانه واقعیتِ فضای مجازی امروز را توصیف میکند.

در حالی که در کشورهای پیشرفته، پیشرفتهای هوش مصنوعی در ابعاد گوناگون زندگی مورد بررسی و مدیریت جدی قرار گرفته، در ایران شاهد موجی از محتوای غیرواقعی و صرفاً سرگرمکننده هستیم که در سالهای اخیر فضای سایبری را پر کرده است. این پدیده باعث شده تا دسترسی به تصاویر، صداها و حتی جزئیات زندگی شخصی بازیگران و خوانندگان، بدون هیچ کنترلی و با سادگی کامل امکانپذیر گردد.

ساخت تصاویر، فیلمها و صداهای جعلی را فراهم آورده که ریشهی پدیدهای به نام جعل عمیق در دسته اخبار دروغین است.

در این فرآیند، با سوءاستفاده از عکس یا صدای افراد، نسخهای تقلبی خلق میشود که واژگانی را در زبان فرد قرار میدهد که هرگز نگفته، یا او را در فضایی نشان میدهد که هرگز در آن حضور نیافته است. هرچند متنهای جعلی نیز چالشبرانگیز هستند، اما محتوای بصری و شنیداری سرعت انتشار و نفوذ بسیار بالاتری در اذهان عمومی دارد.

گسترده در شبکههای اجتماعی باعث میشود این محتواها هرگز به طور کامل از بین نروند و با یک جستجوی ساده قابل دسترسی بمانند.

مثالهای بارز این سوءاستفاده در ایران شامل انتشار عکس جعلی احسان علیخانی در کنار مهلقا باقری، دستکاری تصاویر الناز شاکردوست بر تخت بیمارستان با جایگزینی چهره ترانه علیدوستی، و همینطور استفاده از چهره و صدای خسرو شکیبایی در مراسم افتتاحیه جشنواره فیلم فجر است.

خانواده خسرو شکیبایی نیز با انتشار ویدیویی، از نحوه همانندسازی این هنرمند فقید ابراز نارضایتی کردند و بر ضرورت صداقت و مراعات امانتداری در خلق محتوا تأکید نمودند. چگونه اثری جعلی را تشخیص دهیم؟ با وجود پیشرفت تکنولوژی، هنوز نشانههایی وجود دارد که به شناسایی محتوای تولیدشده توسط هوش مصنوعی کمک میکند.

مهمترین آسیب این پدیده، نقض حریم خصوصی و خدشه دار کردن شخصیت هنری و اجتماعی افراد است؛ چرا که افراد برای سرگرمی، محتوایی از وجود شخصی در مکانی خاص میسازند که او هرگز با پای خود به آنجا نرفته است. با دقت و آگاهی میتوان از روشهای زیر برای تشخیص جعل استفاده کرد ۱. بزرگنمایی و بررسی جزئیات بسیاری از تصاویر هوش مصنوعی در نگاه اول واقعی به نظر میرسند.

اولین قدم، جستجوی عکس با بالاترین کیفیت ممکن و زوم کردن بر روی جزئیات است. بزرگ کردن تصویر، ناهماهنگیها و خطاهایی را فاش میکند که در نگاه اول قابل تشخیص نیستند. ۲. ردیابی منبع عکس در صورت شک در اصالت عکس، باید منبع آن را آشکار ساخت. خواندن نظرات کاربران در بخش کامنتها یا انجام جستجوی معکوس تصویر از طریق ابزارهایی مانند Google، یا میتواند به منبع اصلی عکس و بررسیهای رسانههای معتبر برسد. ۳.

بررسی تناسب اندام هوش مصنوعی اغلب در بازتولید تناسبهای بدنی دچار خطا میشود. دستان ناسباب کوچک یا بزرگ، انگشتان اضافه یا کم، عدم تناسب سر و پا با بدن، و گوشهای نامتعادل از نشانههای رایج است. برای مثال در تصاویر جعلی برخی رهبران جهانی، کفشها یا اعضای بدن به صورت نامتعادل و بزرگنمایی شده دیده میشوند. ۴. آگاهی از اشتباهات رایج الگوریتمها دستان همچنان چالشبرانگیزترین بخش برای مدلهایی مانند یا هستند.

انگشت ششم، انگشتان بسیار بلند، دندانهای بیش از حد، عینکهای با فرمهای عجیب، و گوشهای بیشکل از علائم جعلی بودن هستند. اگرچه نسخههای جدیدتر این ابزارها در رسم دستان پیشرفت کردهاند، اما همچنان نمیتوان به طور کامل بر تشخیص این خطاها تکیه کرد. ۵. ظاهری بیش از حد ایدهآل و صاف متخصصان هوش مصنوعی مانند هنری آژدر و آندریاس دنگل معتقدند که تصاویر تولیدی اغلب بیش از حد کامل به نظر میرسند.

پوستها بینقص و فاقد هرگونه آفت، موها و دندانها ایدهآل، و نورپردازی استودیویی بینقصی دارند که حتی برای عکاسان حرفهای هم دستیابی به آن دشوار است. این بینقصی مصنوعی، نشانهای قوی بر عدم واقعیت تصویر است. ۶. بررسی پسزمینه و بافت تصویر پسزمینه عکسها میتواند رازهای جعل را فاش کند. تکرار اشیاء و افراد در پسزمینه، محو شدن نامتعادل بافت، یا تار بودن مصنوعی عمق میدان، از نشانههای دستکاری است.

اگرچه تکنولوژی به سرعت در حال بهبود است و این اشتباهات در آینده کمتر خواهند شد، اما در حال حاضر با کمی دقت قابل شناسایی هستند. راهکار حقوقی و پناهگاه متضررین اکنون در ایران قوانین جامع و اجرایی در حوزه هوش مصنوعی وجود ندارد که متضررین بتوانند از طریق آن شکایت کنند و پیگیری نمایند، به ویژه در شرایطی که هویت سازندگان این محتواها ناشناس است.

در مقابل، بریتانیا، اتحادیه اروپا و آمریکا از سالها پیش به تدوین و اجرای چارچوبهای قانونی در این حوزه اقدام کردهاند. اگرچه معاونت علمی، فناوری و اقتصاد دانشبنیان ریاست جمهوری از آغاز مطالعات تطبیقی برای تدوین قوانین هوش مصنوعی در ایران خبر داده، اما تا کنون خروجی عملیاتی از آن دیده نشده است.

پرسش اساسی این است آیا ترسناک نیست که عکس جعلی یک فرد در کنار ناشناسها در فضای مجازی پخش شود و او هیچ ابزار قانونی موثری برای مهار آن نداشته باشد؟ آیا این آسیب فرهنگی و اجتماعی به حد کافی هشداردهنده نیست که تدوین سازوکارهای قانونی را ضروری و فوری میسازد؟