انقلاب در هوش مصنوعی: مدل زبانی چینی ۱۰۰ برابر سریع تر از چت جی پی تی

به گزارش سپیدپندار دات کام به نقل از ایندپندنت، هدف از طراحی این هوش مصنوعی، کاهش مصرف انرژی و کار بدون تراشه های انویدیا عنوان شده است. به قول پژوهشگران آکادمی علوم چین، این مدل هوش مصنوعی که SpikingBrain 1.0 نام دارد، از نحوه ی شلیک سلول های عصبی موردنیاز مغز انسان تقلید می کند.

مدلهای زبانی بزرگی مانند ChatGPT و LLaMA متا که به شکل گسترده استفاده می شوند، به قانون مقیاس بندی وابسته هستند. این قانون نشان داده است که عملکرد یک سیستم هوش مصنوعی استدلالی، با افزایش داده ها و بزرگ تر شدن مدلها بهبود می یابد. این مدلها با استفاده از تکنیکی به نام «توجه» کار می کنند؛ به این صورت که هوش مصنوعی در آن واحد همه ی کلمات یک جمله را بررسی می کند تا بفهمد کدام یک برای پیشبینی کلمه ی بعدی اهمیت بیشتری دارد. به عنوان نمونه، اگر کسی جمله ی «گربه پس از دیدن غریبه زیر تخت رفت برای اینکه آن ترسیده بود» را وارد ChatGPT کند، مدل می تواند کلمات را در آن واحد پردازش کند تا دریابد که واژه ی «آن» به «گربه» اشاره دارد.

این تکنیک موجب می شود مدلهای هوش مصنوعی هر کلمه را با تمام کلمات دیگر مقایسه کنند. به همین دلیل، اگر درخواست کاربر بسیار طولانی باشد، مانند وارد کردن یک کتاب کامل، انرژی بیشتری مصرف خواهد شد. مدلهای رایج هوش مصنوعی به علت تعداد زیاد واژگانی که پردازش می کنند با چند مشکل اساسی روبه رو هستند؛ همچون هزینه های بسیار بالای آموزش و مصرف زیاد انرژی. این مدلها به طور معمول بر روی پردازنده های گرافیکی انویدیا اجرا می شوند، موضوعی که موجب می شود امکان توسعه برای همه ی محققان فراهم نباشد. پژوهشگران در اینباره نوشتند: «علاوه بر ساخت مدلهای بزرگ زبانی، توسعه آنها در پلت فرم های رایانشی غیر انویدیا با چالش های بزرگی هم راه است.» آنها مدعی اند برای غلبه بر این محدودیت ها مدلی تازه ابداع نموده اند که از مکانیسم مغز الهام می گیرد.

به قول محققان، مدل جدید بجای بررسی کل متن، تنها واژه های نزدیک و مرتبط را با دقت پردازش می کند؛ درست مانند مغز انسان که در محاوره روی محتوای جدید تمرکز می کند. چنین تنظیماتی می تواند تعادلی میان کارایی و دقت ایجاد نماید. SpikingBrain 1.0 با استفاده از روش «توجه» می تواند ۲۵ تا ۱۰۰ برابر سریع تر از مدلهای معمول هوش مصنوعی عمل کند. این هوش مصنوعی جدید همینطور بر پایه پلت فرم تراشه چینی MetaX طراحی شده است و بجای محصولات انویدیا کار می کند. محققان می گویند این مدل بجای اتکا بر کل یک شبکه مانند ChatGPT، بصورت انتخابی به درخواست ها پاسخ می دهد و همین مساله مصرف انرژی را کم می کند.

این رویکرد امکان پیش آموزش مداوم با کمتر از دو درصد داده ها را فراهم می آورد و با این حال به عملکردی قابل مقایسه با مدلهای منبع باز متداول دست می یابد. پژوهشگران مدعی هستند که SpikingBrain در تعدادی موارد به سرعتی بیشتر از ۱۰۰ برابر مدلهای سنتی دست پیدا می کند. به اجمال، این مدلها با استفاده از تکنیکی به نام توجه کار می کنند؛ به این صورت که هوش مصنوعی در آن واحد همه ی کلمات یک جمله را بررسی می کند تا بفهمد کدام یک برای پیشبینی کلمه ی بعدی اهمیت بیشتری دارد. به عنوان نمونه، اگر کسی جمله ی گربه بعد از دیدن غریبه زیر تخت رفت به جهت اینکه آن ترسیده بود را وارد ChatGPT کند، مدل می تواند کلمات را در آن واحد پردازش کند تا دریابد که واژه ی آن به گربه اشاره دارد.

چرا هوش مصنوعی نورومورفیک اهمیت دارد؟