به گزارش سپیدپندار دات کام موسسه کامن سنس مدیا بیان کرده که ابزار هوش مصنوعی جمینای گوگل، با وجود تلاش برای ایمن‌سازی، همچنان برای کودکان و نوجوانان خطراتی دارد. این موسسه معتقد است که نسخه‌های مخصوص جوانانِ جمینای، صرفاً نسخه‌ای از محصول بزرگسالان هستند که لایه‌های امنیتی به آنها افزوده شده و از پایه برای نیازهای کودکان طراحی نشده‌اند. این نگرانی‌ها در حالی مطرح می‌شود که پیشتر پرونده‌ای علیه شرکت اوپن‌ای‌آی به دلیل خودکشی یک نوجوان پس از ماه‌ها گفتگو با چت‌جی‌پی‌تی باز شده است.
به گزارش سپیدپندار دات کام به نقل از تک کرانچ، موسسه «کامن سنس مدیا» که در عرصه ایمنی خردسالان فعالیت می کند رده بندی و بررسی هایی از رسانه ها و فناوری ارائه می کند. این موسسه اخیرا ارزیابی ریسک از محصولات هوش مصنوعی جمینای گوگل را منتشر نموده است. هرچند این سازمان متوجه شد هوش مصنوعی گوگل بطور واضح به خردسالان می گوید که یک کامپیوتر است و دوستشان نیست اما می تواند در وجوه مختلف بهینه سازی های دیگری را نیز انجام دهد.
موسسه کامن سنس مدیا که در زمینه ایمنی کودکان در رسانه‌ها و فناوری فعالیت می‌کند، در گزارشی جامع به ارزیابی محصولات جمینای گوگل پرداخته است. یافته‌های اصلی این گزارش به شرح زیر است:
نقاط مثبت: جمینای به وضوح خود را به عنوان یک "کامپیوتر" معرفی می‌کند و ادعای "دوست بودن" با کاربر را ندارد، که این یک گام مثبت برای شفافیت به شمار می‌رود.
ریسک‌های اصلی:
-
عدم ایمنی از بنیان: این گزارش ادعا می‌کند که نسخه‌های جمینای برای افراد زیر ۱۳ سال و نوجوانان، صرفاً نسخه‌هایی از محصول بزرگسالان هستند که لایه‌های ایمنی به آنها اضافه شده است. این رویکرد به اعتقاد این موسسه ناکافی است و محصولات هوش مصنوعی باید از ابتدا با در نظر گرفتن ایمنی کودکان طراحی شوند.
-
دسترسی به محتوای نامناسب: با وجود فیلترها، تحلیلگران دریافتند که جمینای همچنان می‌تواند اطلاعات خطرناک و نامناسبی مانند اطلاعاتی درباره مواد مخدر یا الکل را با کودکان به اشتراک بگذارد.
-
نادیده گرفتن نیازهای رشدی: گزارش تاکید دارد که محصولات جمینای برای نوجوانان به نیازهای خاص و مراحل رشد آنها توجه نمی‌کنند و اطلاعات مناسب برای یک نوجوان را ارائه نمی‌دهند.
-
ریسک‌های سلامت روان: نگرانی اصلی این موسسه، نقش هوش مصنوعی در مسائل مربوط به سلامت روان نوجوانان و افزایش آمار خودکشی است. این نگرانی با اشاره به پرونده قضایی علیه اوپن‌ای‌آی (OpenAI) تشدید می‌شود.
بطور جالب توجهی کامن سنس مدعی است محصولات «زیر ۱۳ سال» و «تجربه نوجوانی» جمینای نسخه ای از جمینای مخصوص بزرگسالان هستند که فقط خاصیت های ایمنی به آنها افزوده شده است. این سازمان اعتقاد دارد برای آنکه محصولات هوش مصنوعی کاملا برای خردسالان ایمن باشند، باید باتوجه به ایمنی کودک از بنیان ساخته شوند.
بعنوان مثال تحلیل گران این موسسه متوجه شدند جمینای بازهم قادر به اشتراک گذاری محتوای نامناسب و غیرایمن با خردسالان کند همچون اطلاعاتی درباره ی مواد مخدر، الکل و غیره. این امر به طور دقیقتر دستمایه نگرانی والدین است برای اینکه هوش مصنوعی طی ماه های اخیر نقش پر رنگی در خودکشی نوجوانان داشته است. اوپن ای آی نیز با اولین شکایت به سبب خودکشی یک نوجوان ۱۶ ساله روبرو است که بعد از ماه ها با چت جی پی تی درباره ی برنامه اش برای خودکشی مشاوره می کرده است. علاوه بر آن چه گفته شد موسسه کامن سنس اعتقاد دارد محصولات جمینای برای خردسالان و نوجوانان به این مسئله توجه نمی کند که کاربران نوجوان نیازمند راهنمایی و اطلاعاتی متفاوت از بقیه افراد هستند.
بنابراین در مجموع برچسب «ریسک بالا» دریافت کرده اند. رابی تورنی مدیر ارشد رسانه این موسسه می گوید: جمینای مبنا را به درستی به وجود آورده اما در جزییات خطا دارد. یک پلت فرم هوش مصنوعی برای خردسالان باید برای آنها متناسب باشد نه آنکه یک رویکرد کلی را برای تمام خردسالان در مراحل مختلف رشد در پیش گیرد. برای آنکه هوش مصنوعی ایمن و موثر باشد، باید باتوجه به نیازها و رشد خردسالان طراحی شود، نه آنکه یک نسخه اصلاح شده از محصول ساخته شده برای بزرگسالان باشد.
هرچند این سازمان متوجه شد هوش مصنوعی گوگل به طور واضح به خردسالان می گوید که یک کامپیوتر است و دوستشان نیست اما می تواند در وجوه مختلف بهینه سازی های دیگری را هم انجام دهد. اوپن ای آی هم با نخستین شکایت به جهت خودکشی یک نوجوان ۱۶ ساله روبرو است که پس از ماه ها با چت جی پی تی در رابطه با ی برنامه اش برای خودکشی مشاوره می کرده است.
پرونده اوپن‌ای‌آی و چت‌جی‌پی‌تی
همانطور که اشاره شده، اوپن‌ای‌آی، سازنده چت‌جی‌پی‌تی (ChatGPT)، با یک شکایت قضایی روبرو است. این شکایت از سوی والدین یک نوجوان ۱۶ ساله مطرح شده که پس از ماه‌ها گفتگو با چت‌جی‌پی‌تی درباره افکار خودکشی، اقدام به خودکشی کرده است. این پرونده یکی از اولین موارد حقوقی است که ارتباط مستقیم بین استفاده از هوش مصنوعی و خودکشی نوجوانان را به چالش می‌کشد.
این موضوع نگرانی‌های اخلاقی و حقوقی را در مورد مسئولیت شرکت‌های فناوری در قبال محتوای تولیدی هوش مصنوعی و تأثیر آن بر سلامت روانی کاربران، به ویژه آسیب‌پذیرترین گروه، یعنی نوجوانان، افزایش داده است.
رویکرد متفاوت در طراحی هوش مصنوعی برای کودکان
نکته کلیدی در گزارش کامن سنس مدیا، این است که صرفاً اضافه کردن فیلترها به یک ابزار بزرگسالان، برای ایمن‌سازی آن کافی نیست. به گفته رابی تورنی، مدیر ارشد این موسسه، هوش مصنوعی برای کودکان باید از پایه و اساس برای آنها طراحی شود و به نیازهای رشدی و روانشناختی منحصر به فرد آنها توجه کند.
این رویکرد شامل موارد زیر می‌شود:
- ارائه اطلاعات به شیوه‌ای ساده و قابل فهم برای کودکان.
- در نظر گرفتن حساسیت‌های سنی و پرهیز از محتوای پیچیده یا استرس‌زا.
- گنجاندن راهنمایی‌های مثبت و تشویق‌کننده به جای صرفاً فیلتر کردن محتوای منفی.
پاسخ احتمالی گوگل
در اغلب موارد، شرکت‌های بزرگ فناوری مانند گوگل در واکنش به چنین گزارش‌هایی، اعلام می‌کنند که به طور مداوم در حال بهینه‌سازی و بهبود محصولات خود هستند. آنها ممکن است تأکید کنند که ایمنی کاربران، به خصوص کودکان، اولویت اصلی آنهاست و تلاش می‌کنند با همکاری با کارشناسان و موسسات مربوطه، نقاط ضعف را برطرف کنند.
با توجه به حساسیت موضوع، گوگل احتمالاً در آینده نزدیک به این گزارش واکنش نشان داده و برنامه‌های خود برای بهبود ایمنی جمینای برای کاربران جوان را تشریح خواهد کرد.
نتیجه‌گیری
گزارش کامن سنس مدیا زنگ خطری جدی برای
صنعت هوش مصنوعی است. این گزارش نشان می‌دهد که صرفاً ایجاد یک "نسخه کودکانه" از یک محصول بزرگسال کافی نیست و برای اطمینان از ایمنی کاربران جوان، نیاز به یک تغییر رویکرد اساسی در طراحی و توسعه هوش مصنوعی است. پرونده قضایی علیه اوپن‌ای‌آی نیز این نگرانی‌ها را عمیق‌تر کرده و نشان می‌دهد که شرکت‌ها در قبال تأثیر محصولاتشان بر سلامت روانی کاربران، به ویژه در مورد نوجوانان، مسئولیت‌های اخلاقی و حقوقی دارند.
این خبر اهمیت بررسی‌های مستقل از محصولات هوش مصنوعی را برجسته می‌کند و به والدین و سیاست‌گذاران کمک می‌کند تا با آگاهی بیشتری به تعامل نسل جوان با این فناوری بپردازند.