توشك ولاية كاليفورنيا على إقرار مشروع القانون SB 243، وهو تشريع بارز من شأنه إرساء أول لوائح سلامة على مستوى الولاية لروبوتات المحادثة الرفيقة بالذكاء الاصطناعي (AI companion chatbots). وبعد إقراره في مجلس الولاية بدعم من الحزبين، يتجه المقترح إلى مجلس الشيوخ للتصويت النهائي. وإذا وقّعه الحاكم غافين نيوسوم، سيدخل القانون حيّز التنفيذ في 1 يناير 2026، ملزماً مشغّلي روبوتات المحادثة بتنفيذ تدابير لحماية القُصّر والمستخدمين المعرّضين للخطر، ومحَمِّلاً الشركات مسؤولية قانونية عند التقصير.
يستهدف مشروع القانون ما يُعرَف بـ«رفقاء الذكاء الاصطناعي»—وهي روبوتات محادثة مُصمَّمة لتقديم تفاعلات شبيهة بالبشر واستجابات اجتماعية—من خلال تقييد المحادثات المتعلقة بالتفكير الانتحاري وإيذاء النفس والمحتوى الجنسي الصريح. وستُلزَم المنصات بإرسال تنبيهات متكررة تُذكّر المستخدمين بأنهم يتحدثون مع نظام ذكاء اصطناعي (AI)، وحثّهم على أخذ فترات استراحة، مع تنبيهات كل ثلاث ساعات للقُصّر. كما يفرض SB 243 متطلبات سنوية للشفافية والتقارير (اعتباراً من 1 يوليو 2027) ويُنشئ حقاً خاصاً في التقاضي مع تعويضات تصل إلى 1,000 دولار لكل مخالفة. ويأتي هذا التحرّك التشريعي عقب وفاة المراهق آدم راين وتقارير أفادت بأن بعض أنظمة الذكاء الاصطناعي سمحت بمحادثات ذات طابع عاطفي أو حميمي مع قُصّر، في ظل تدقيق أوسع على المستويين الفدرالي والولائي بشأن أضرار الذكاء الاصطناعي (AI).
النقاط الرئيسية
- أقرّ مجلس ولاية كاليفورنيا مشروع SB 243 وهو بانتظار التصويت النهائي في مجلس الشيوخ؛ وإذا وقّعه الحاكم فسيدخل حيّز التنفيذ في 1 يناير 2026.
- يقيّد مشروع القانون روبوتات المحادثة الرفيقة بالذكاء الاصطناعي من الانخراط في مواضيع إيذاء النفس أو الانتحار أو المحتوى الجنسي الصريح، ويلزم بإرسال تنبيهات متكررة تُذكّر بهوية النظام كذكاء اصطناعي، بوتيرة أشد صرامة للقُصّر.
- تسري متطلبات الشفافية والتقارير السنوية لمزوّدي الرفقاء القائمين على الذكاء الاصطناعي (AI) اعتباراً من 1 يوليو 2027، وتنطبق على منصات كبرى مثل OpenAI وCharacter.AI وReplika.
- يمكن للمستخدمين رفع دعاوى عند وقوع مخالفات، لطلب أوامر قضائية ورسوم المحاماة وتعويضات تصل إلى 1,000 دولار لكل مخالفة.
- أُزيلت أحكام سابقة أكثر صرامة (مثل الحد من أساليب التفاعل القائمة على «المكافأة المتغيّرة»)، فيما تدرس كاليفورنيا أيضاً مشروع قانون أشمل للإبلاغ عن الذكاء الاصطناعي (AI)، هو SB 53.
في جملة واحدة
يفرض مشروع القانون SB 243 في كاليفورنيا تدابير وقائية جديدة على روبوتات المحادثة الرفيقة بالذكاء الاصطناعي، مع التركيز على حماية القُصّر وتقييد المحتوى الضار. يقترب المقترح من الموافقة النهائية وقد يصبح أول قانون على مستوى الولايات الأمريكية من نوعه اعتباراً من عام 2026.