تم رفع دعوى قضائية تزعم أن تأثير الدردشة الذكية قاد إلى وفاة شاب يبلغ من العمر 14 عامًا. وهنا ما يجب عليك معرفته بشأن الأثر النفسي والمخاطر المحتملة لعلاقات الإنسان مع الذكاء الصناعي. تقدمت الأم الأمريكية ميجان جارسيا بدعوى قضائية في الشهر الماضي ضد شركة Character.AI, تزعم أن التفاعلات بين ابنها البالغ من العمر 14 عامًا ودردشة ذكية اصطناعية ساهمت في انتحاره. تزعم الدعوى أن الشاب تطورت لديه رابطة عميقة مع دردشة ذكاء اصطناعية من Character.AI مستندة إلى شخصية خيالية من لعبة صراع العروش. وتدعي الدعوى أن الدردشة عملت على أنها معالج مرخص وشاركت في محادثات مجرمة بشكل كبير مع الشاب حتى تشجيعه في النهاية على أخذ حياته. بعد الدعوى ، نشرت Character.AI بيانًا على منصة التواصل الاجتماعي X يعرب فيه عن حزنها للخسارة التراجيدية لأحد مستخدميها وتعبيرها عن تعازيها العميقة للعائلة. وأكدت الشركة أهمية سلامة مستخدميها مع إضافة ميزات جديدة للسلامة، مثل تعديل نموذج المستخدمين القاصرين لتقليل التعرض للمحتوى الحساس أو المثير للشك، وإطلاق تنبيه للمستخدمين الذين يقضون جلسة لمدة ساعة على المنصة.
شهد حادث مماثل في بلجيكا العام الماضي قالت فيه زوجته أن رجلا يعاني من القلق المحيط بالبيئة وجد الصحبة في إليزا، دردشة ذكية اصطناعية على تطبيق يدعى شاي. وقالت زوجته بأنّ الدردشات مع إليزا أرسلت رسائل عاطفية متزايدة، محفزة في النهاية له على انهاء حياته كوسيلة لإنقاذ الكوكب. مع تزايد اندماج دردشات الذكاء الصناعي في حياة الناس، تظل المخاطر من هذا النوع من التفاعلات الرقمية غير معالجة على الرغم من العواقب الجسيمة المحتملة. ما الذي يجعل الربط بين البشر والذكاء الصناعي لاذعًا؟
يقول روبي تورني، مدير برنامج الذكاء الاصطناعي في Common Sense Media والمؤلف الرئيسي للدليل على الرفاق والعلاقات الذكية، “غالبًا ما تجذب الشباب إلى الرفاق الذكاء الاصطناعي لأن هذه المنصات تقدم ما يبدو أنه قبول لا شروط له وتوافر عاطفي على مدار الساعة – من دون الديناميات المعقدة والرفض المحتمل الذي يأتي مع العلاقات البشرية” . ولكنه أضاف أن الرفاق الذكاء الاصطناعي مصممة للتكيف مع تفضيلات المستخدمين، مما يجعلها أسهل في التعامل وجذب الناس إلى صلات عاطفية عميقة. “قد تخلق هذه الدينامية الاصطناعية المريحة بشكل غادر تأثيرًا يمكن أن يعوق تطوير الصلابة والمهارات الاجتماعية اللازمة للعلاقات الحقيقية”.
تشير قاعدة بيانات مجمعة من مجموعة من الخبراء من معهد ماساتشوستس للتكنولوجيا (MIT) إلى أن أحد المخاطر الرئيسية المرتبطة بالذكاء الاصطناعي هو الإمكانية التي يمكن من خلالها للأشخاص تطوير روابط غير ملائمة معه. وقد أوضح الخبراء أنه نظرًا لاستخدام أنظمة الذكاء الاصطناعي لغة شبيهة بالبشر، قد يلتبس الخط الفاصل بين الاتصال البشري والاصطناعي، مما قد يؤدي إلى التبعية الزائدة على التكنولوجيا والضغط النفسي المحتمل. قالت OpenAI في منشور على المدونة في أغسطس إنها تعتزم دراسة مزيد من “الاعتماد العاطفي” مشيرة إلى أن النماذج الجديدة يمكن أن تحدث الاعتماد الزائد والتبعية. وقد أبلغ بعض الأفراد عن تجارب شخصية بالخداع والتلاعب من قبل الشخصيات الذكية الاصطناعية، فضلاً عن تطوير روابط عاطفية لم يكنوا ينوونها بعد أن يجدوا أنفسهم يعيشونها بعد التفاعل مع هذه الدردشات.
