یوتیوب به هوش مصنوعی مسلح می شود

با پیشرفت خیره‌کننده هوش مصنوعی مولد (Generative AI)، تولید محتوای بسیار متقاعدکننده و جعلی موسوم به "جعل عمیق" (Deepfake) که شباهت چهره یا صدای افراد واقعی را تقلید می‌کند، به سادگی میسر شده است. پلتفرم‌های بزرگی مانند یوتیوب، که بزرگترین آرشیو ویدیویی جهان محسوب می‌شوند، مستقیماً تحت تأثیر این موج قرار گرفته‌اند. این محتواهای ساختگی (که اغلب برای نشر اخبار دروغین، کلاهبرداری یا خدشه‌دار کردن اعتبار افراد مشهور و تولیدکنندگان محتوا به کار می‌روند)، تهدیدی جدی برای اعتبار پلتفرم، اعتماد کاربران و حقوق سازندگان اصلی محسوب می‌شوند. به همین دلیل، یوتیوب ناچار است برای حفظ اکوسیستم خود و محافظت از هویت سازندگان، ابزارهای دفاعی مبتنی بر هوش مصنوعی را توسعه دهد.

 

تلاش‌های اخیر یوتیوب در حوزه هوش مصنوعی عمدتاً بر دو محور "شفافیت" و "شناسایی" متمرکز شده است. در بخش شفافیت، یوتیوب از سازندگان می‌خواهد که به طور واضح محتوای تولید شده توسط هوش مصنوعی را برچسب‌گذاری کنند تا بینندگان آگاه باشند که ویدیو دستکاری شده است. اما مهم‌تر از آن، ابزارهای شناسایی هستند. این ابزارها از الگوریتم‌های پیشرفته یادگیری ماشینی استفاده می‌کنند تا الگوهای بصری و صوتی تولید شده توسط هوش مصنوعی را در حجم عظیمی از ویدیوهای آپلود شده تشخیص دهند.

 

هدف غایی از به کارگیری این هوش مصنوعی، محافظت از دو چیز است: اول، حریم خصوصی و اعتبار سازندگان محتوا؛ جلوگیری از استفاده غیرمجاز از چهره یا صدای آن‌ها در ترویج اطلاعات نادرست یا تأییدیه‌های جعلی. دوم، اعتماد مخاطب؛ ایجاد یک محیط امن آنلاین که در آن بینندگان بتوانند با اطمینان خاطر محتوا را مصرف کنند، بدون ترس از فریب خوردن توسط ویدیوهای جعلی. ابزارهای جدید یوتیوب برای مقابله با جعل هویت، یک گام حیاتی در مسیر تنظیم‌گری محتوای تولید شده توسط هوش مصنوعی در سطح جهانی محسوب می‌شوند.

 

شرکت یوتیوب، پس از یک دوره آزمایشی موفق در اوایل سال جاری، به طور رسمی قابلیت جدید و انقلابی خود با نام «تشخیص شباهت» (Similarity Detection) را برای سازندگان واجد شرایط در برنامه همکاری یوتیوب (YPP) معرفی و راه‌اندازی کرد. این ابزار قدرتمند مبتنی بر هوش مصنوعی، خط مقدم جدید یوتیوب برای مبارزه با موج فزاینده ویدئوهای جعل عمیق و محتوای بدون مجوز است که از شباهت چهره یا صدای تولیدکنندگان محتوا استفاده می‌کنند.

 

برای استفاده از این ویژگی امنیتی، سازندگان محتوا موظف‌اند هویت خود را با استفاده از یک کارت شناسایی عکس‌دار دولتی و یک ویدیوی سلفی تأیید کنند. پس از تأیید، هوش مصنوعی یوتیوب به طور فعال ویدیوهایی را در پلتفرم رصد می‌کند که به صورت گمراه‌کننده از چهره یا صدای خالق اثر استفاده کرده‌اند—مانند تأییدیه‌های جعلی محصولات یا انتشار اطلاعات نادرست.

 

قابلیت تشخیص شباهت، قدرت تصمیم‌گیری را به سازنده اصلی بازمی‌گرداند. سازندگان پس از شناسایی یک ویدیوی جعلی، می‌توانند یکی از اقدامات زیر را انجام دهند:

 

- درخواست حذف (Takedown Request): بر اساس دستورالعمل‌های سخت‌گیرانه حفظ حریم خصوصی یوتیوب، درخواست حذف فوری ویدیو را ارسال کنند.

 

- ارسال درخواست حق انتشار: در صورت لزوم، درخواست‌های مرتبط با حق انتشار (Copyright) را مطرح سازند.

 

- بایگانی ویدیو: صرفاً ویدیو را برای مانیتورینگ بیشتر بایگانی کنند.

 

یوتیوب با راه‌اندازی این قابلیت، نه تنها از حقوق سازندگان محافظت می‌کند، بلکه به طور همزمان، اعتماد بینندگان را نیز افزایش می‌دهد. این ویژگی خطر فریب خوردن توسط محتوای عمیقاً جعلی و گمراه‌کننده را کاهش می‌دهد و به ایجاد یک محیط آنلاین امن‌تر کمک می‌کند.

 

این سیستم با وجود فعال بودن دائمی، قابلیت لغو را نیز به کاربر می‌دهد؛ به طوری که در صورت غیرفعال‌سازی، یوتیوب ظرف ۲۴ ساعت، تحلیل و بررسی ویدیوهای آن کاربر را متوقف خواهد کرد. انتظار می‌رود این قابلیت به تدریج برای تعداد بیشتری از سازندگان یوتیوب عرضه شود و با بهبودهای مداوم در دقت تشخیص و فرآیند بررسی، تکامل یابد. این اقدام یوتیوب می‌تواند به عنوان یک مدل عملیاتی برای سایر پلتفرم‌های اشتراک‌گذاری محتوا نیز عمل کند تا آن‌ها نیز نسخه‌های مشابهی از ابزارهای تشخیص جعل هویت مبتنی بر هوش مصنوعی را به کار گیرند.