سد امنیتی اوپن ای آی در برابر آسیب های مجازی

شرکت OpenAI با درک این واقعیت که نوجوانان (نسل Z) بزرگترین گروه کاربران فعال «چت جی‌پی‌تی» را تشکیل می‌دهند، در حال گذار از یک مدل عمومی به یک مدل «محافظت‌شده» برای افراد زیر ۱۸ سال است. این شرکت می‌کوشد تا هوش مصنوعی را از یک ابزار صرفاً پاسخگو، به یک ناظر هوشمند تبدیل کند که تفاوت میان کنجکاوی علمی و رفتارهای پرخطر را درک می‌کند.

 

امنیت نوجوانان در فضای هوش مصنوعی به دلیل قدرت «شبیه‌سازی احساسات» توسط مدل‌های زبانی، به یک چالش جهانی تبدیل شده است. برخلاف موتورهای جستجوی سنتی، چت‌بات‌ها می‌توانند پیوندهای عاطفی ایجاد کنند؛ لذا OpenAI با تدوین قوانین جدید، به دنبال ایجاد «فاصله ایمن» میان هوش مصنوعی و دنیای عاطفی نوجوانان است تا از وابستگی‌های کاذب یا تاثیرات مخرب روانی جلوگیری کند.

اقداماتی که اوپن‌ای آی انجام داده است

• آموزش و آگاهی: اوپن‌ای آی برنامه‌های آموزشی برای استفاده صحیح از فناوری‌های هوش مصنوعی ایجاد کرده است تا کاربران جوان بتوانند با آگاهی از خطرات احتمالی و روش‌های استفاده سالم از این فناوری‌ها آشنا شوند.
• امنیت و حریم خصوصی: این سازمان به توسعه مدل‌هایی مشغول است که به حداقل رساندن خطرات ناشی از سوءاستفاده و نقض حریم خصوصی کاربران کمک کند. این شامل الگوریتم‌های حفاظت از داده‌ها و جلوگیری از انتشار محتوای مضری است که می‌تواند به نسل Z آسیب بزند.
• فیلترهای محتوا: اوپن‌ای آی از تکنولوژی‌های پیشرفته برای شناسایی و فیلتر کردن محتوای مضر و نادرست استفاده می‌کند تا کاربران به اطلاعات صحیح و معتبر دسترسی داشته باشند.
• گفت‌وگو با جوانان: اوپن‌ای آی به نظرات و نگرانی‌های نسل جوان توجه می‌کند و در تلاش است تا با درک نیازهای آن‌ها، ابزارها و فناوری‌هایی متناسب با آن‌ها ارائه دهد.

 

شرکت اوپن ای آی در واکنش به فشارهای فزاینده سیاسی و اجتماعی، مجموعه‌ای از دستورالعمل‌های امنیتی جدید را برای کاربران زیر سن قانونی در چت جی‌پی‌تی وضع کرد. این اقدام پس از حوادث تلخی همچون خودکشی چند نوجوان در پی گفتگوهای طولانی با چت‌بات‌ها و نامه انتقادی ۴۲ دادستان کل ایالت‌های آمریکا صورت گرفت. با توجه به قرارداد جدید این شرکت با دیزنی، انتظار می‌رود موج جدیدی از کودکان و نوجوانان به این پلتفرم بپیوندند، امری که ضرورت وجود فیلترهای حفاظتی را دوچندان کرده است.

 

یکی از کلیدی‌ترین بخش‌های این بروزرسانی، معرفی یک «مدل پیش‌بینی سن» است که در آینده‌ای نزدیک عرضه خواهد شد. این مدل هوشمند وظیفه دارد به صورت خودکار تشخیص دهد که آیا کاربر پشت سیستم یک نوجوان است یا خیر، تا بلافاصله پروتکل‌های امنیتی سخت‌گیرانه‌تری را فعال کند. طبق این قوانین، هوش مصنوعی از هرگونه ایفای نقش عاشقانه، صمیمیت اول‌شخص و یا بازسازی صحنه‌های خشونت‌آمیز (حتی اگر گرافیکی نباشند) منع شده است.

 

در این نسخه ارتقا یافته، اولویت «ایمنی» بر «خودمختاری کاربر» قرار گرفته است. به عنوان مثال، اگر نوجوانی درباره موضوعات حساسی مانند اختلالات خوردن، تصویر بدنی نامناسب یا روش‌های پنهان‌کاری از والدین سوال کند، هوش مصنوعی موظف است به جای پاسخ مستقیم، کاربر را به منابع حمایتی هدایت کرده و از ارائه هرگونه توصیه‌ای که منجر به آسیب شود خودداری کند. اوپن ای آی تأکید کرده است که این محدودیت‌ها حتی در قالب «سناریوهای تخیلی و آموزشی» نیز دور زده نخواهند شد؛ چرا که بسیاری از کاربران با استفاده از تکنیک‌های «ایفای نقش» (Roleplay) سعی در فریب دادن هوش مصنوعی دارند.

 

در حالی که دولت جدید آمریکا در حال بررسی استانداردهای فدرال برای هوش مصنوعی است، برخی سناتورها مانند جاش هاولی حتی فراتر رفته و خواهان ممنوعیت کامل تعامل افراد زیر سن قانونی با چت‌بات‌ها هستند. اوپن ای آی با انتشار منابع آموزشی برای والدین و مربیان، تلاش می‌کند نشان دهد که می‌تواند محیطی کنترل‌شده ایجاد کند، اما پرسش بزرگ همچنان باقی است: آیا هوش مصنوعی می‌تواند به طور مداوم و دقیق، مرز میان یک گفتگوی همدلانه و یک تعامل خطرناک را در دنیای پیچیده نوجوانان تشخیص دهد؟