تصمیم جنجالی متا: هوش مصنوعی جایگزین بازبین های انسانی در ارزیابی خطرات محصولات می شود

تاریخ ارسال : 1404/03/11

سپیدپندار دات کام: گزارش ها حاکی از آن است که شرکت متا به زودی برای ارزیابی ریسک در بیشتر محصولات خود، به جای بازبین های انسانی، عمدتا از هوش مصنوعی استفاده خواهد کرد.

به گزارش سپیدپندار دات کام به نقل از ایسنا، متا در نظر دارد وظیفه ارزیابی خطرات بالقوه محصولات خودرا از بازبین های انسانی به سیستم های هوش مصنوعی واگذار کند تا این پروسه با سرعت بیشتری صورت گیرد. اسناد داخلی که NPR به آنها دست یافته است، نشان می دهند که متا در نظر دارد تا ۹۰ درصد ارزیابی های ریسک را به هوش مصنوعی بسپارد. این شرکت حتی درحال بررسی استفاده از هوش مصنوعی در عرصه های حساسی چون خطرات در رابطه با خردسالان و مسایل «تمامیت» (integrity) است؛ منظور از «تمامیت» حفظ سلامت و اعتماد عمومی در پلت فرم های متا است؛ مفهومی که شامل روبرو شدن با محتوای خشونت آمیز، اطلاعات نادرست، نفرت پراکنی، آزار و اذیت و سایر تهدیدهای اخلاقی و اجتماعی می شود.
به نقل از انگجت، کارمندان فعلی و سابق متا که با NPR صحبت کرده اند، هشدار داده اند که هوش مصنوعی ممکنست خطرات جدی را نادیده بگیرد؛ خطراتی که گروههای انسانی قادر به شناسایی آنها بودند.

در گذشته، بروزرسانی ها و خاصیت های جدید در پلت فرم هایی مانند اینستاگرام و واتساپ قبل از عرضه عمومی توسط انسان ها بررسی می شدند. اما بر اساس گزارش NPR، متا طی دو ماه گذشته تمرکز خودرا بر استفاده از هوش مصنوعی دوچندان کرده است. حال گروههای محصول باید پرسش نامه ای در مورد محصول خود تکمیل کرده و آنرا جهت بررسی به سیستم هوش مصنوعی ارسال نمایند. این سیستم بطور معمول یک «تصمیم فوری» صادر می کند که شامل شناسایی حوزه های پرریسک است. گروه ها سپس باید بر طبق این ارزیابی ها اقدام نمایند تا بتوانند محصول را عرضه کنند.
یکی از مدیران پیشین متا می گوید: کاهش بررسی انسانی یعنی پذیرش ریسک بیشتر و نتایج منفی تغییرات کمتر محصولات که قبل از بروز مشکلات در جهان قابل پیشگیری خواهند بود.

متا در اطلاعیه ای اعلام نموده است که بازهم از «تخصص انسانی» برای ارزیابی مسایل جدید و پیچیده استفاده خواهدنمود و تصمیم گیری درباره ی موارد «کم ریسک» را به هوش مصنوعی خواهد سپرد.
این خبر تنها چند روز بعد از انتشار آخرین گزارش های فصلی متا درباره ی تمامیت پلت فرم هایش منتشر می شود؛ گزارشی که نخستین بار بعد از تغییر سیاستهای این شرکت درباره ی تعدیل محتوا و راستی آزمایی امسال است. طبق این گزارش، حجم محتوای حذف شده کاهش یافته، اما موارد آزار و اذیت، خشونت و محتوای گرافیکی کمی افزایش داشته اند.

 

موضوع خبر :

• هوش مصنوعی
• شركت
• شركت متا
• گجت

به این مطلب چه امتیازی می دهید؟ 1 2 3 4 5 (1)

نظر شما در مورد تصمیم جنجالی متا: هوش مصنوعی جایگزین بازبین های انسانی در ارزیابی خطرات محصولات می شود چیست؟

نام

ایمیل

سوال: