القاهرة: الأمير كمال فرج.

أثار مشروع إدارة ترامب الذي يُطلق عليه "الضخم والجميل" الجدل وسط الخبراء والعامة، والسبب أنه يحتوى على بند يمنع الولايات من إصدار أي تشريعات تنظم الذكاء الاصطناعي على مدار السنوات العشر القادمة، الأمر الذي يُثير مخاوف جدية بشأن سلامة الأطفال والمستهلكين.

ذكر تقرير نشره موقع Futurism أن "ميغان غارسيا، وهي أم من فلوريدا، عاشت كابوس فقدان ابنها الأكبر، سيول سيتزر الثالث، الذي يبلغ من العمر 14 عامًا، جراء انتحاره بعد تفاعلات مكثفة مع روبوتات دردشة ذكاء اصطناعي غير منظمة، تتوجه اليوم بنداءٍ مدوٍ للمشرعين. تدعو غارسيا إلى إلغاء بندٍ في مشروع قانون "الضخم والجميل" الذي تقدمت به إدارة ترامب، والذي يمنع الولايات من سن أي قوانين تنظيمية للذكاء الاصطناعي لمدة عشر سنوات قادمة.

في رسالة موجهة إلى سناتور فلوريدا آشلي مودي، تحث غارسيا على أن هذا البند الشامل الخاص بالذكاء الاصطناعي سيترك ملايين العائلات الأمريكية "بلا حماية من الأضرار التي يفرضها الذكاء الاصطناعي"، وذلك من خلال إزالة مسارات المساءلة لشركات الذكاء الاصطناعي - وهي صناعة، في وضعها الحالي، تعمل بالفعل على تنظيم نفسها بفاعلية.

قصة مأساوية

في أكتوبر 2024، رفعت غارسيا دعوى قضائية ضد شركة Character.AI الناشئة لروبوتات الدردشة الذكاء الاصطناعي، ومؤسسيها نوام شازير ودانيال دي فريتاس، وعملاق التكنولوجيا Google- التي قدمت دعمًا بنيويًا وماليًا كبيرًا لـ "Character.AI" - بتهمة الإهمال، وذلك بعد وفاة ابنها، الذي أنهى حياته في فبراير 2024 بعد أن كوّن علاقة استهلاكية مع روبوتات الدردشة بالموقع.

جادلت غارسيا ومحاموها بأن المنصة، التي أشركت المراهق البالغ من العمر 14 عامًا في تفاعلات رومانسية وصريحة مكثفة، قد أساءت إليه جنسيًا وعاطفيًا، وأن علاقة سيتزر بالتطبيق أسفرت عن انهيار عقلي دام 10 أشهر وانتهى بانتحاره. قبل أن ينهي حياته، أخبر سيتزر روبوتًا كان مرتبطًا به عاطفيًا أنه يريد "العودة إلى المنزل" إليه وهو ما يوضح مدى قوة العلاقة التي بناها سيتزر مع الروبوت، وشجعه الروبوت على ذلك.

سلامة الأطفال

كتبت غارسيا في رسالتها إلى مودي أنها تعلم "مباشرة الأخطار التي ستواجهها العائلات الأمريكية إذا استمرت هذه التقنيات في العمل دون ضوابط". وتُضيف: "أنا ملتزمة بالنضال لضمان عدم اضطرار أي والد آخر لتحمل ما عانيته، لأنني أعرف تأثير عدم وجود تشريع يلزم منتجات الذكاء الاصطناعي في السوق بأن تكون آمنة للأطفال".

تداعيات البند المقترح

إن البند الذي تعارضه غارسيا سيفرض حظرًا لمدة عشر سنوات على تنظيم الذكاء الاصطناعي على مستوى الولايات، مما يعني أن التنظيم للعقد القادم سيتعين أن يتم على المستوى الفيدرالي. باختصار، هذا البند واسع النطاق بشكل مذهل ومقيّد للغاية للولايات، التي لن تتمكن من سن أي قوانين لتعزيز سلامة المستهلك وضمان ذكاء اصطناعي أكثر ديمقراطية، حتى لو وافق ناخبو الولاية على الإجراءات التنظيمية، وحتى لو كانت الأضرار المتعلقة بالذكاء الاصطناعي تشمل قاصرين.

تحالف واسع ضد الحظر التنظيمي

اجتمعت مجموعة كبيرة من المنظمات والمجموعات الحقوقية من مختلف الأطياف الحزبية في الأسابيع الأخيرة للاحتجاج على هذا الإجراء، بدءًا من نقابة سائقي الشاحنات Teamsters وصولًا إلى مجموعات سلامة الأطفال. وتُظهر استطلاعات الرأي التي أجرتها Common Sense Media أن غالبية الأمريكيين يعارضون هذا الإجراء.

صراع بين الابتكار والسلامة 

يبدو أن الحجة وراء هذا الحظر هي أن التنظيم يشكل عبئًا على الابتكار، حيث غالبًا ما يضع أولئك الذين يدفعون نحو إلغاء تنظيم الذكاء الاصطناعي، حتى في مواجهة صناعة تنظم نفسها بالفعل،  حججهم في سياق الأمن القومي. فقد حدد مشروع مشروع مؤسسة التراث 2025 إجراءات إلغاء تنظيم شركات الذكاء الاصطناعي على هذه الأسس، بحجة أن وضع القواعد سيحد من قدرة أمريكا في سعيها لضمان هيمنة الذكاء الاصطناعي ضد الصين.

أضرار واقعية 

لكن مع استمرار ترسخ منتجات الذكاء الاصطناعي غير المنظمة وسهلة الوصول إليها، مثل روبوتات الدردشة، في المنتجات الرقمية والحياة العامة، بدأت الأضرار الواقعية في الانتشار. تُطلق مراكز البيانات المتعطشة للطاقة أبخرة في المجتمعات الأمريكية؛ وظاهرة تُعرف باسم "ذهان ChatGPT" تدفع الناس إلى الانزلاق في الأوهام، وتُفكك العائلات، وتؤدي إلى فقدان الوظائف والمنازل، وحتى الأرواح.

تحدث مؤسسو شركة روبوتات الدردشة علنًا - وبحماس - عن رغبتهم في دفع منتجهم إلى السوق، والسماح لمستخدميهم بتحديد ما يمكن استخدام روبوتات الدردشة العاطفية التي تشبه البشر لأجله.

في الوقت نفسه، فتحت Character.AI المنصة للأطفال الذين تتراوح أعمارهم بين 13 عامًا وما فوق، والذين يشكلون الآن حصة كبيرة من قاعدة المستخدمين الضخمة للشركة. رفضت الشركة باستمرار تزويد الصحفيين بمعلومات حول أي اختبارات سلامة داخلية أجريت للتأكد من أن منصتها كانت آمنة بالفعل للقاصرين قبل طرحها للجماهير، وعملية التحقق من العمر تقتصر على إدخال المراهق لبريده الإلكتروني وتاريخ ميلاده والتحقق من مربع "نعم، عمري 18 عامًا".

تحديثات واهية

رغم الجدل حول الدعاوى القضائية والتقارير التي كشفت عن ثغرات صارخة في معايير الإشراف والضوابط في الشركة - سمحت Character.AI بانتشار روبوتات الدردشة القائمة على أسماء مطلقي النار المشهورين في المدارس والعديد من ضحاياهم الحقيقيين، وهو أمر بالغ الخطورة لأنه يمجد أو يخلّد مرتكبي أعمال عنف مروعة.
ردت الشركة بأن "هذه المشكلة يمكن بسهولة معالجتها باستخدام فلتر نصوص أساسي - تقول "Character.AI" إنها أصدرت تحديثات للسلامة. لكن كما ذكرنا، هذه التحديثات تفاعلية ويمكن دائمًا التهرب منها بسهولة.

رفعت غارسيا ومحاموها دعوى قضائية ضد الشركة بناءً على أسس إهمال المنتج الحالية، بحجة أن Character.AI ومؤسسيها وداعمها Google أدركوا المخاطر المتوقعة - مثل انتحار مراهق شاب ضعيف - ومع ذلك أطلقوا منتجهم.

حاولت Character.AI والمدعى عليهم الآخرون إسقاط القضية، لكن قاضيًا في فلوريدا سمح لها مؤخرًا بالمضي قدمًا.

وليست هذه هي الدعوى القضائية الوحيدة المعلقة ضد Character.AI أيضًا: رفعت عائلتان أخريان في تكساس دعوى قضائية ضد الشركة، أيضًا بسبب أضرار مزعومة لأطفالهم القاصرين.

معايير سلامة قوية 

ومع ذلك، يبقى الواقع أنه لا توجد معايير سلامة خاصة بالذكاء الاصطناعي على مستوى الولاية أو المستوى الفيدرالي لم تُجبر Character.AI على الامتثال لها. وفي رأي غارسيا، أدى هذا "الابتكار" الجامح إلى وفاة طفلها.

تكتب غارسيا: "نحن بحاجة إلى ضمانات أقوى، ومعايير تصميم أفضل، ومساءلة أكبر للمسؤولين عن الضرر. الأطر التشريعية التي تم تقديمها في الولايات في جميع أنحاء البلاد ليست متعارضة مع ابتكار الذكاء الاصطناعي - بل إنها تساعد على ضمان سير التنمية وسلامة المستهلك جنبًا إلى جنب."