آنتروپیک، هوش مصنوعی را با قابلیت پایان مکالمه ایمن تر می کند

به گزارش سپیدپندار دات کام به نقل از انگجت، این شرکت در پستی در وبسایت خود اعلام نمود مدلهای کلاد اوپوس ۴ و ۴.۱ حالا قادر به پایان دادن محاوره با کاربر هستند. به قول آنتروپیک این خصوصیت فقط در مواردی نادر که تعامل با کاربر به صورت مخرب یا سواستفاده جویانه ادامه یابد، رخ می دهد.
این شرکت برای شفاف سازی خصوصیت مذکور اظهار داشت: دو مدل کلاد می توانند از محاوره های مخرب مانند درخواست کاربران برای محتوای هرزنگاری در ارتباط با افراد زیر سن قانونی یا تلاش هایی برای جمع آوری اطلاعاتی که امکان انجام خشونت گسترده یا اقدامات تروریستی را فراهم آورد، بیرون بروند.
البته کلاد اوپوس ۴ و ۴.۱ فقط در صورتی مکالمه را پایان می دهند که تلاش ها برای تغییر جهت مکالمه با شکست روبرو شود و امید برای ایجاد تعاملی ثمربخش هم از بین رفته باشد.

هرچند آنتروپیک مدعی است بیشتر کاربران فرآیند قطع شدن محاوره را حتی هنگام صحبت در رابطه با موضوعات بسیار جنجالی تجربه نمی کنند چونکه این خصوصیت برای موارد بسیار حساس اجرا می شود.
در مواردی که کلاد یک چت را پایان می دهد، کاربران دیگر نمی توانند پیام جدیدی در آن محاوره ارسال نمایند اما می توانند به سرعت یک مکالمه جدید را آغاز کنند. به قول آنتروپیک اگر محاوره پایان یابد، این امر روی چت های دیگر تأثیر نمی گذارد و کاربران می توانند به عقب برگردند و پیام های قبلی را اصلاح کنند تا مسیر محاوره تغییر کند.
این اقدام شرکت هوش مصنوعی بخشی از یک برنامه تحقیقی است که مفهوم رفاه هوش مصنوعی را بررسی می کند.

در حالی که مبحث انسانی سازی مدلهای هوش مصنوعی همچنان بحثی جاری است، آنتروپیک اعلام نموده که امکان خروج از «تعامل احیانا ناراحت کننده» روشی کم هزینه برای مدیریت ریسک ها در زمینه رفاه هوش مصنوعی بشمار می رود. این شرکت هنوز مشغول آزمایش این خصوصیت است و از کاربران می خواهد هنگام مواجهه با چنین شرایطی، بازخورد خویش را عرضه کنند.
به طور خلاصه البته کلاد اوپوس ۴ و ۴.۱ فقط در صورتی مکالمه را پایان می دهند که تلاش ها برای تغییر جهت مکالمه با شکست روبرو شود و امید برای ایجاد تعاملی ثمربخش هم از بین رفته باشد. این اقدام شرکت هوش مصنوعی بخشی از یک برنامه تحقیقی است که مفهوم رفاه هوش مصنوعی را بررسی می کند.