حاكم كاليفورنيا يعترض على مشروع قانون يهدف لمنع كوارث الذكاء الاصطناعى

استخدم حاكم ولاية كاليفورنيا “جافين نيوسوم” حق النقض ضد مشروع القانون SB 1047، الذي يهدف إلى منع الجهات الفاعلة السيئة من استخدام الذكاء الاصطناعي لإحداث “ضرر جسيم” للبشر.

وأقر مجلس ولاية كاليفورنيا التشريع بأغلبية 41 صوتًا مقابل 9 في 28 أغسطس، لكن العديد من المنظمات بما في ذلك غرفة التجارة حثت نيوسوم على استخدام حق النقض ضد مشروع القانون.

وفي رسالته باستخدام حق النقض ، قال نيوسوم إن مشروع القانون “حسن النية” لكنه “لا يأخذ في الاعتبار ما إذا كان نظام الذكاء الاصطناعي قد تم نشره في بيئات عالية الخطورة، أو ينطوي على اتخاذ قرارات حاسمة أو استخدام بيانات حساسة.

وبدلاً من ذلك، يطبق مشروع القانون معايير صارمة حتى على الوظائف الأساسية، طالما أن هناك نظامًا كبيرًا ينشرها.

وكان من شأن SB 1047 أن يجعل مطوري نماذج الذكاء الاصطناعي مسؤولين عن اعتماد بروتوكولات السلامة التي من شأنها أن توقف الاستخدامات الكارثية لتكنولوجيتهم.

ويتضمن ذلك تدابير وقائية مثل الاختبار وتقييم المخاطر الخارجية، بالإضافة إلى “التوقف في حالات الطوارئ” الذي من شأنه أن يغلق نموذج الذكاء الاصطناعي بالكامل.

وسيكلف الانتهاك الأول ما لا يقل عن 10 ملايين دولار و30 مليون دولار للمخالفات اللاحقة ، ومع ذلك تمت مراجعة مشروع القانون لإلغاء قدرة المدعي العام للولاية على مقاضاة شركات الذكاء الاصطناعي بسبب ممارسات الإهمال في حالة عدم وقوع حدث كارثي ، ويمكن مقاضاتها إذا تسبب نموذجها في ضرر جسيم.

وسينطبق هذا القانون على نماذج الذكاء الاصطناعي التي تكلف ما لا يقل عن 100 مليون دولار للاستخدام ، وكان من الممكن أيضًا أن يغطي المشروعات المشتقة في الحالات التي يستثمر فيها طرف ثالث 10 ملايين دولار أو أكثر في تطوير النموذج الأصلي أو تعديله.

وستخضع أي شركة تمارس أعمالًا تجارية في كاليفورنيا للقواعد إذا كانت تستوفي المتطلبات الأخرى ، وفي معرض حديثه عن تركيز مشروع القانون على الأنظمة واسعة النطاق، قال نيوسوم: “لا أعتقد أن هذا هو أفضل نهج لحماية الجمهور من التهديدات الحقيقية التي تشكلها التكنولوجيا”.

وقد أثار مشروع قانون مجلس الشيوخ 1047 معارضة شديدة من مختلف أنحاء مجال التكنولوجيا ، وانتقدت الباحثة في في لي مشروع القانون، كما فعل كبير علماء الذكاء الاصطناعي في شركة ميتا يان لوكون، بسبب تقييده لإمكانية استكشاف استخدامات جديدة للذكاء الاصطناعي. 

وقالت المجموعة التجارية التي تمثل عمالقة التكنولوجيا مثل أمازون وآبل وجوجل إن مشروع قانون مجلس الشيوخ 1047 من شأنه أن يحد من التطورات الجديدة في قطاع التكنولوجيا في الولاية.

كما تساءلت شركة رأس المال الاستثماري أندريسون هورويتز والعديد من الشركات الناشئة عما إذا كان مشروع القانون يفرض أعباء مالية غير ضرورية على مبتكري الذكاء الاصطناعي.

ودفعت منظمة أنثروبيك ومعارضون آخرون لمشروع القانون الأصلي إلى إدخال تعديلات تم تبنيها في نسخة مشروع قانون مجلس الشيوخ 1047 التي أقرتها لجنة التخصيصات في كاليفورنيا في 15 أغسطس.