تاریخ ارسال : 1404/06/26
به گزارش سپیدپندار دات کام سم آلتمن مدیر ارشد اجرایی اوپن ای آی مجموعه ای جدید از سیاست های مخصوص کاربران از جمله تعهد به تغییر قابل توجه شیوه تعامل چت جی پی تی با کاربران زیر ۱۸ سال را اعلام کرد.
به گزارش سپیدپندار دات کام به نقل از تک کرانچ، سم آلتمن مدیر ارشد اجرائی اوپن ای آی در پستی نوشت: ما ایمنی نوجوانان را بر حریم خصوصی و آزادی در ارجحیت قرار می دهیم. این یک تکنولوژی جدید و قدرتمند است و ما باور داریم افراد زیر سن قانونی نیازمند حفاظت قابل توجه هستند.
تغییرات مخصوص کاربران زیر سن قانونی بطور دقیق تر مربوط به گفتگوهایی با موضوعات جنسی یا آزاد به خود است. تحت سیاست جدید شرکت چت جی پی تی طوری آموزش می بیند تا محاورات اغواگرانه با کاربران زیر سن قانونی انجام ندهد و اقدامات محافظتی بیشتری درباره ی گفتگوهای مربوط به خودکشی اجرا خواهد شد.
اگر یک کاربر نوجوان یا کودک چت جی پی تی را برای سناریوهای خیالی خودکشی به کار گیرد، این سرویس تلاش می کند با والدین او یا در موارد شدید با پلیس محلی تماس بگیرد.
والدینی که یک حساب کاربری برای فردی زیر سن قانونی ثبت می کنند، علاوه بر آنکه می توانند محدودیت هایی بر محتوا وضع کنند، قادر خواهند بود ساعات خاموشی را نیز تنظیم کنند که در چت جی پی تی قابل دسترسی نیست. این خاصیت قبلاً ارائه نشده بود. حرف آخر اینکه اگر یک کاربر نوجوان یا کودک چت جی پی تی را برای سناریوهای خیالی خودکشی به کار گیرد، این سرویس تلاش می کند با والدین او یا در موارد شدید با پلیس محلی تماس بگیرد.
این خبر در مورد اعلام سیاست‌های جدید شرکت OpenAI توسط مدیرعامل آن، سم آلتمن، است که به طور ویژه بر روی ایمنی کاربران زیر ۱۸ سال تمرکز دارد. این تغییرات با هدف حفاظت از نوجوانان و کودکان در برابر محتوای حساس و تعاملات مضر طراحی شده‌اند.
مهم‌ترین نکات این سیاست‌های جدید عبارتند از:
-
اولویت‌دهی به ایمنی: سم آلتمن به صراحت اعلام کرده که OpenAI ایمنی نوجوانان را بر حریم خصوصی و آزادی آن‌ها ارجحیت میدهد.
-
محدودیت در تعاملات حساس: ChatGPT به گونه‌ای آموزش داده می‌شود که از گفتگوهای با مضامین جنسی یا تحریک‌آمیز با کاربران زیر ۱۸ سال خودداری کند.
-
پاسخ به موضوعات مربوط به خودکشی: اقدامات حفاظتی بیشتری در مورد گفتگوهای مربوط به خودکشی اعمال خواهد شد. اگر یک کاربر زیر سن قانونی در مورد سناریوهای خیالی خودکشی با چت‌بات صحبت کند، این سرویس تلاش خواهد کرد با والدین او یا در موارد جدی‌تر با پلیس محلی تماس بگیرد.
-
کنترل والدین: والدین می‌توانند برای حساب کاربری فرزندان خود محدودیت‌هایی در محتوا و همچنین ساعات خاموشی (زمانی که چت‌جی‌پی‌تی غیرقابل دسترس است) تعیین کنند. این قابلیت قبلاً وجود نداشت.
در مجموع، این تغییرات نشان‌دهنده رویکرد مسئولانه OpenAI در قبال کاربران جوان‌تر و تلاش برای ایجاد محیطی امن‌تر برای استفاده از تکنولوژی‌های هوش مصنوعی است.
این تغییرات در پاسخ به نگرانی‌های فزاینده درباره تأثیر هوش مصنوعی بر سلامت روانی و امنیت کودکان و نوجوانان صورت گرفته است. بسیاری از متخصصان و گروه‌های مدافع حقوق کودکان هشدار داده بودند که ابزارهای هوش مصنوعی مانند ChatGPT می‌توانند محتوای نامناسبی تولید کرده یا در شرایط آسیب‌پذیر، به کاربران جوان‌تر آسیب برسانند.
این سیاست‌های جدید بخشی از تلاش گسترده‌تر
صنعت تکنولوژی برای مدیریت ریسک‌های مربوط به هوش مصنوعی است. شرکت‌های بزرگ مانند
گوگل و مایکروسافت نیز اقدامات مشابهی را برای حفاظت از کاربران جوان در پلتفرم‌های خود آغاز کرده‌اند.
تمرکز ویژه بر روی موضوع خودکشی نشان میدهد که OpenAI به خطرات بالقوه سلامت روان کاملاً آگاه است. اقدام به تماس با والدین یا پلیس در شرایط اضطراری، یک قدم جسورانه و مهم است که نشان میدهد شرکت فراتر از محدودیت‌های فنی، مسئولیت اجتماعی خود را نیز در نظر گرفته است.
با توجه به رشد سریع استفاده از هوش مصنوعی در میان نوجوانان، این اقدامات می‌تواند به عنوان یک مدل برای دیگر شرکت‌های فعال در این حوزه عمل کند و استانداردهای جدیدی را برای ایمنی کودکان و نوجوانان در فضای آنلاین ایجاد نماید.
منبع: sepidpendar.com
به این مطلب چه امتیازی می دهید؟
1
2
3
4
5
(1)