گوگل از پیشرفت ایمنی و شفافیت در مدل های هوش مصنوعی خبر می دهد

در توسعه اخیر با هدف بهبود ایمنی و شفافیت هوش مصنوعی، گوگل سه مدل جدید هوش مصنوعی مولد را معرفی کرده است. این مدل‌ها که بخشی از سری Gemma 2 گوگل هستند، به گونه‌ای طراحی شده‌اند که نسبت به بسیاری از مدل‌های موجود، ایمن‌تر، کارآمدتر و شفاف‌تر باشند.

یک پست وبلاگ در وب سایت این شرکت بیان می کند که مدل های جدید - Gemma 2 2B، ShieldGemma و Gemma Scope - بر اساس پایه و اساس سری اصلی Gemma 2 که در ماه مه راه اندازی شد، ساخته شده اند.

عصر جدیدی از هوش مصنوعی با Gemma 2

برخلاف مدل‌های جمینی گوگل، سری جما منبع باز است. این رویکرد منعکس کننده استراتژی متا با مدل های Llama است که هدف آن ارائه ابزارهای هوش مصنوعی قابل دسترس و قوی برای مخاطبان گسترده تر است.

Gemma 2 2B یک مدل سبک وزن برای تولید و تجزیه و تحلیل متن است. به اندازه کافی همه کاره است تا روی سخت افزارهای مختلف از جمله لپ تاپ ها و دستگاه های لبه اجرا شود. به گفته گوگل، توانایی آن برای عملکرد در محیط های مختلف، آن را به گزینه ای جذاب برای توسعه دهندگان و محققانی که به دنبال راه حل های هوش مصنوعی انعطاف پذیر هستند، تبدیل می کند.

در همین حال، گوگل گفت مدل ShieldGemma بر افزایش ایمنی با عمل به عنوان مجموعه ای از طبقه بندی کننده های ایمنی تمرکز دارد. ShieldGemma برای شناسایی و فیلتر کردن محتوای سمی، از جمله سخنان مشوق عداوت و تنفر، آزار و اذیت و مطالب صریح جنسی ساخته شده است. این در بالای Gemma 2 عمل می کند و لایه ای از تعدیل محتوا را ارائه می دهد.

به گفته گوگل، ShieldGemma می تواند درخواست ها را برای یک مدل تولیدی و محتوای تولید شده فیلتر کند و آن را به ابزاری ارزشمند برای حفظ یکپارچگی و ایمنی محتوای تولید شده با هوش مصنوعی تبدیل کند.

مدل Gemma Scope به توسعه دهندگان اجازه می دهد تا بینش عمیق تری در مورد عملکرد درونی مدل های Gemma 2 به دست آورند. به گفته گوگل، Gemma Scope متشکل از شبکه های عصبی تخصصی است که به باز کردن اطلاعات متراکم و پیچیده پردازش شده توسط Gemma 2 کمک می کند.

با گسترش این اطلاعات به شکل قابل تفسیرتر، محققان می توانند بهتر درک کنند که Gemma 2 چگونه الگوها را شناسایی می کند، داده ها را پردازش می کند و پیش بینی می کند. این شفافیت برای بهبود قابلیت اطمینان و قابلیت اطمینان هوش مصنوعی حیاتی است.

رسیدگی به نگرانی های ایمنی و تایید دولت

راه‌اندازی این مدل‌ها توسط گوگل نیز در پی هشدار مهندس مایکروسافت شین جونز است که نگرانی‌هایی را در مورد ابزارهای هوش مصنوعی Google ایجاد تصاویر خشونت‌آمیز و جنسی و نادیده گرفتن حق نسخه‌برداری مطرح کرد.

انتشار این مدل‌های جدید همزمان با گزارش اولیه وزارت بازرگانی ایالات متحده در تایید مدل‌های هوش مصنوعی باز است. این گزارش مزایای دسترسی بیشتر هوش مصنوعی مولد را برای شرکت‌های کوچکتر، محققان، سازمان‌های غیرانتفاعی و توسعه‌دهندگان فردی برجسته می‌کند.

با این حال، همچنین بر اهمیت نظارت بر این مدل‌ها برای خطرات بالقوه تأکید می‌کند و بر نیاز به اقدامات ایمنی مانند موارد اجرا شده در ShieldGemma تأکید می‌کند.