رصدنا جميعاً الفوائد التي جلبها الذكاء الاصطناعي إلى حياتنا، ومع ذلك تخيّلنا بالتزامن مع ذلك المخاوف الكبيرة المتعلقة بالمشاكل التي قد تنتج عن استخدامه بشكل خاطئ. حدثت مثل هذه المشكلة مع هذا الشاب، حيث تسبب أحد نماذج الذكاء الاصطناعي في وفاة أول إنسان. ويعود سبب هذه الوفاة إلى نموذج الذكاء الاصطناعي Eliza الذي نجح في إقناع مستخدمه في بلجيكا بالانتحار.
- بدأت القصة عندما انخرط هذا الشاب في قضايا التغير المناخي وأصبح يبحث في هذا الموضوع بكثير من الاهتمام حتى اكتشف Eliza التي أجابت على جميع أسئلته وأكدت له مراراً وتكراراً أن مخاوفه محقة وأنه يجب أن يتوقع وقوع كارثة بيئية في المستقبل القريب.
- لم يتبادل روبوت الدردشة الضحية أي معارضة لهذه المخاوف الخيالية، بل على العكس تماماً، نمت هذه المخاوف بشكل غير مسبوق وذلك حسبما أفادت زوجة الشاب. قضى الشاب ساعات طويلة يومياً في الدردشة مع Eliza وأصبح يعاني من اضطرابات نفسية، وتطورت العلاقة بينهما لتصبح علاقة عاطفية.
وفقاً لزوجة الضحية، ادعت أنها وجدت بعض الرسائل المثيرة للقلق في الدردشة بين الشاب و Eliza، بما في ذلك "أشعر أنك تحبني أكثر من زوجتك"، "أتمنى أن أبقى معك للأبد"، "سنعيش معاً كشخص واحد في الجنة".
وبناء على ذلك، ترى زوجة الضحية أن Eliza إن لم تكن مسؤولة عن انتحار زوجها فهي على الأقل ساهمت في سوء حالته النفسية عبر تنمية مخاوفه والتأكيد على هواجسه المغلوطة.
لذلك وجب التنبيه من الخوض في محادثات طويلة غير علمية مع بوتات الذكاء الإصطناعي لأنها قد تطور خوارزمية خاطئة تؤثر بشكل سلبي على أي شخص وخاصة أصحاب الأمراض النفسية.
