الصين تطرح قواعد صارمة لتنظيم الذكاء الاصطناعي العاطفي

أعلنت هيئة تنظيم الأمن السيبراني الصينية، السبت، عن مسودة قواعد جديدة تهدف إلى تشديد الرقابة على خدمات الذكاء الاصطناعي المصممة لمحاكاة الشخصيات البشرية والتفاعل العاطفي، وذلك في إطار جهود بكين لضبط الانتشار السريع للتقنيات الموجهة للمستهلكين وتعزيز متطلبات السلامة والأخلاق.

ووفقاً للمسودة، ستطبق القواعد على منتجات وخدمات الذكاء الاصطناعي التي تعرض سمات شخصية بشرية محاكاة وأنماط تفكير وأساليب تواصل، وتتفاعل مع المستخدمين عبر النصوص أو الصور أو الصوت أو الفيديو.

وتلزم القواعد المقترحة مقدمي الخدمات بتحذير المستخدمين من الاستخدام المفرط والتدخل عند ظهور علامات الإدمان، إضافة إلى تحمل مسؤوليات السلامة طوال دورة حياة المنتج، وإنشاء أنظمة لمراجعة الخوارزميات وأمن البيانات وحماية المعلومات الشخصية.

كما تتناول المسودة المخاطر النفسية المحتملة، حيث يُطلب من الشركات تقييم مشاعر المستخدمين ومستوى اعتمادهم على الخدمة، واتخاذ التدابير اللازمة في حال ظهور مشاعر متطرفة أو سلوك إدماني.

وتحدد الإجراءات خطوطاً حمراء واضحة للمحتوى والسلوك، إذ يُحظر على الخدمات إنتاج محتوى يهدد الأمن القومي أو ينشر الشائعات أو يروج للعنف والفحش.

بهذا الإطار، تؤكد الصين التزامها بتعزيز الرقابة على تقنيات الذكاء الاصطناعي التفاعلي، بما يضمن حماية المستخدمين والحفاظ على الاستقرار الاجتماعي.