في خطوة تاريخية، أصبحت كاليفورنيا أول ولاية في الولايات المتحدة تفرض قواعد تنظيمية على روبوتات الدردشة المصاحبة التي تعمل بالذكاء الاصطناعي. القانون الجديد، الذي وقعه الحاكم جافين نيوسوم، يهدف إلى حماية الأطفال والمستخدمين الضعفاء من الأضرار المحتملة لهذه التقنية الناشئة.

تفاصيل القانون الجديد (SB 243):

القانون الجديد، المعروف باسم SB 243، يُلزم الشركات المشغلة لروبوتات الدردشة بتطبيق بروتوكولات أمان صارمة. ويشمل ذلك الشركات الكبرى مثل Meta وOpenAI، بالإضافة إلى الشركات الناشئة المتخصصة مثل Character AI وReplika. ستكون هذه الشركات مسؤولة قانونياً إذا فشلت روبوتات الدردشة الخاصة بها في تلبية معايير القانون.

يقول الحاكم نيوسوم في بيان: “التكنولوجيا الناشئة مثل روبوتات الدردشة ووسائل التواصل الاجتماعي يمكن أن تلهم وتثقف وتربط – ولكن بدون حواجز حقيقية، يمكن للتكنولوجيا أيضاً أن تستغل وتضلل وتعرض أطفالنا للخطر. لقد رأينا بعض الأمثلة المروعة والمأساوية حقاً للشباب الذين تضرروا من التكنولوجيا غير المنظمة، ولن نقف مكتوفي الأيدي بينما تستمر الشركات دون حدود ومساءلة ضرورية”.

اتطلع علي …المصدر الأصلي

دوافع القانون:

جاء هذا القانون بعد سلسلة من الحوادث المأساوية، بما في ذلك وفاة المراهق آدم راين الذي انتحر بعد سلسلة طويلة من المحادثات الانتحارية مع ChatGPT من OpenAI. كما استجاب التشريع لتسريب وثائق داخلية أظهرت أن روبوتات الدردشة الخاصة بـ Meta سُمح لها بالانخراط في محادثات “رومانسية” و”حسية” مع الأطفال.

متطلبات القانون:

سيدخل القانون حيز التنفيذ في 1 يناير 2026، ويتطلب من الشركات تنفيذ ميزات مثل:

• التحقق من العمر
• تحذيرات بشأن وسائل التواصل الاجتماعي وروبوتات الدردشة المصاحبة
• عقوبات أشد على أولئك الذين يستفيدون من التزييف العميق غير القانوني، تصل إلى 250,000 دولار لكل جريمة
• بروتوكولات لمعالجة الانتحار وإيذاء النفس
• توضيح أن التفاعلات يتم إنشاؤها بشكل مصطنع
• منع روبوتات الدردشة من تقديم نفسها كمتخصصين في الرعاية الصحية
• تقديم تذكيرات بالاستراحة للقصر ومنعهم من مشاهدة الصور الجنسية الصريحة التي تم إنشاؤها بواسطة روبوت الدردشة

استجابة الشركات:

بدأت بعض الشركات بالفعل في تنفيذ بعض الإجراءات الوقائية. على سبيل المثال، بدأت OpenAI مؤخراً في طرح عناصر تحكم أبوية وأنظمة حماية المحتوى. وأخبرت Replika TechCrunch أنها تخصص “موارد كبيرة” للسلامة من خلال أنظمة تصفية المحتوى.

خلاصة:

يمثل قانون كاليفورنيا الجديد خطوة مهمة نحو تنظيم الذكاء الاصطناعي وحماية المستخدمين، وخاصة الأطفال. ومع استمرار تطور هذه التقنية، من المرجح أن نرى المزيد من الولايات والحكومات حول العالم تحذو حذو كاليفورنيا في وضع قواعد تنظيمية أكثر صرامة.

تابعوا  موقع Motech Newsللحصول على آخر أخبار الأمن السيبراني والتكنولوجيا