تاریخ ارسال : 1404/02/27
به گزارش سپیدپندار دات کام شرکت اوپن ای آی(OpenAI) که توسعه دهنده هوش مصنوعی مشهور ChatGPT است، یک مرکز ارزیابی ایمنی جدید راه اندازی کرده است که به طور منظم به روز می شود تا شفافیت بیشتری در مورد توهمات و محتوای مضر هوش مصنوعی داشته باشد.
به گزارش سپیدپندار دات کام به نقل از ایسنا، شرکت اوپن ای آی(OpenAI) یک صفحه وب جدید به نام «مرکز ارزیابی ایمنی» راه اندازی کرده است تا بشکل عمومی، اطلاعات در ارتباط با مواردی مانند میزان توهم مدلهای خویش را به اشتراک بگذارد.
این هاب همینطور اگر مدلی محتوای مضر تولید می کند، نشان داده است که چگونه مطابق دستور عمل می کند و تلاش می کند آنرا اصلاح نماید.
این شرکت فناوری ادعا می کند که این صفحه جدید شفافیت بیشتری را از طرف «اوپن ای آی» فراهم می کند؛ شرکتی که همین هم اکنون هم با پرونده های قضایی گوناگونی بر مبنای استفاده غیرقانونی از مطالب دارای حق نشر برای آموزش مدلهای هوش مصنوعی خود مواجه می باشد.
این «مرکز ارزیابی ایمنی» به منظور گسترش نظارت «اوپن ای آی» به راه افتاده است که به صورت مداوم هم بروزرسانی می شود.
شرکت «اوپن ای آی» در اعلامیه خود می گوید: همانطور که علم ارزیابی هوش مصنوعی درحال تکامل است، هدف ما اینست که پیشرفت خویش را در توسعه راه های مقیاس پذیرتر برای اندازه گیری قابلیت و ایمنی مدلها به اشتراک بگذاریم. با به اشتراک گذاشتن زیرمجموعه ای از نتایج ارزیابی ایمنی خود در اینجا، امیدواریم این امر نه تنها درک عملکرد ایمنی سیستم های «اوپن ای آی» را با گذشت زمان آسان تر کند، بلکه از تلاشهای جامعه برای افزایش شفافیت در سرتاسر زمینه هم حمایت کند.
این شرکت می افزاید که تلاش می کند تا ارتباطات فعال تری در این حوزه داشته باشد.
علاقمندان می توانند به هر یک از بخش های این هاب نگاه کنند و اطلاعات در ارتباط با مدلهای مربوطه مانند «GPT-4.1» تا 4.5 را مشاهده کنند.
«اوپن ای آی» خاطرنشان می کند که اطلاعات عرضه شده در این مرکز فقط یک «عکس فوری» است و افراد علاقه مند باید به ارزیابی ها و سایر اطلاعات برای جزئیات بیشتر نگاه کنند.
یکی از نکات مهم کل «مرکز ارزیابی ایمنی» اینست که «اوپن ای آی» نهادی است که این آزمایش ها را انجام می دهد و انتخاب می کند که چه اطلاعاتی را به شکل عمومی به اشتراک بگذارد. در نتیجه، هیچ راهی برای تضمین اینکه این شرکت تمام مسایل یا نگرانی ها را با مردم در بین بگذارد، وجود ندارد.
منبع: sepidpendar.com
موضوع خبر :
- آموزش
- هوش مصنوعی
- اوپن ای آی
- چت جی بی تی
به این مطلب چه امتیازی می دهید؟
1
2
3
4
5
(1)
نظر شما در مورد شفافیت یا كنترل اطلاعات؟ اوپن ای آی از مرکز ارزیابی ایمنی رونمایی کرد چیست؟