فرماندار کالیفرنیا لایحه مورد بحث ایمنی هوش مصنوعی را وتو کرد

Newsom SB 1047 - معروف به قانون نوآوری ایمن و امن برای مدل‌های هوش مصنوعی مرزی - را در 30 سپتامبر وتو کرد، که با واکنش‌های قابل توجهی از سیلیکون ولی مواجه شد.

این شرکت آزمایش ایمنی اجباری مدل‌های هوش مصنوعی و سایر راهکارهای محافظ را پیشنهاد کرد، در حالی که شرکت‌های فناوری نگران بودند که نوآوری را خفه کند.

در بیانیه ای در 29 سپتامبر، Newsom گفت که این لایحه بیش از حد بر تنظیم شرکت های برتر موجود در هوش مصنوعی بدون محافظت از مردم در برابر تهدیدات "واقعی" ناشی از فناوری جدید متمرکز شده است.

در عوض، این لایحه استانداردهای سختگیرانه‌ای را حتی برای اساسی‌ترین عملکردها اعمال می‌کند - تا زمانی که یک سیستم بزرگ آن را مستقر کند. من معتقد نیستم که این بهترین رویکرد برای محافظت از مردم در برابر تهدیدات واقعی ناشی از فناوری باشد.»

SB 1047 که توسط سناتور دموکرات سانفرانسیسکو اسکات وینر نوشته شده است، همچنین از توسعه دهندگان در کالیفرنیا - از جمله نام های بزرگی مانند سازنده ChatGPT OpenAI، Meta و Google - می خواهد تا یک "سوئیچ کشتار" را برای مدل های هوش مصنوعی خود اجرا کنند و برنامه هایی را برای کاهش خطرات شدید منتشر کنند. .

اگر این لایحه اجرا می‌شد، توسعه‌دهندگان هوش مصنوعی در صورت تهدید مداوم مدل‌هایی مانند تصاحب شبکه هوش مصنوعی، ممکن است توسط دادستان کل ایالت مورد شکایت قرار گیرند.

نیوسام گفت که از کارشناسان برجسته ایمنی هوش مصنوعی جهان خواسته است تا به کالیفرنیا در «توسعه نرده‌های محافظ کارآمد» که بر ایجاد «تحلیل مسیر مبتنی بر علم» تمرکز دارد، کمک کنند. وی افزود که به سازمان های دولتی دستور داده است تا ارزیابی خود را از خطرات ناشی از رویدادهای فاجعه بار احتمالی ناشی از توسعه هوش مصنوعی گسترش دهند.

اگرچه Newsom SB 1047 را وتو کرد، او گفت که پروتکل‌های ایمنی کافی برای هوش مصنوعی باید اتخاذ شود، و افزود که تنظیم‌کننده‌ها نمی‌توانند «قبل از اقدام برای محافظت از مردم منتظر وقوع یک فاجعه بزرگ باشند».

نیوسام افزود که دولت او در 30 روز گذشته بیش از 18 لایحه در مورد مقررات هوش مصنوعی امضا کرده است.

سیاستمداران، فناوری بزرگ لایحه ایمنی هوش مصنوعی را پس می‌زنند

این لایحه در میان قانونگذاران، مشاوران و شرکت های بزرگ فناوری در پیش از تصمیم نیوسام محبوبیت نداشت.

نانسی پلوسی، رئیس مجلس نمایندگان و شرکت هایی مانند OpenAI گفتند که این امر به طور قابل توجهی مانع رشد هوش مصنوعی می شود.

نیل چیلسون، رئیس سیاست هوش مصنوعی در موسسه فراوانی، هشدار داد که اگرچه این لایحه عمدتاً مدل‌هایی با هزینه و اندازه معین را هدف قرار می‌دهد - مدل‌هایی که بیش از 100 میلیون دلار هزینه دارند - دامنه آن به راحتی می‌تواند برای سرکوب توسعه‌دهندگان کوچک‌تر نیز گسترش یابد.

اما برخی از این لایحه باز هستند. میلیاردر ایلان ماسک - که در حال توسعه مدل هوش مصنوعی خود با نام "گروک" است، در میان معدود رهبران فناوری منتخب طرفدار این لایحه و قوانین جامع هوش مصنوعی به طور گسترده تر است.

ماسک در پستی در 26 آگوست برای X گفت: "کالیفرنیا احتمالاً باید لایحه ایمنی SB 1047 AI را تصویب کند" اما پذیرفت که ایستادن پشت این لایحه "یک تماس سخت" است.