اعترفت السلطات اليابانية مؤخرا أنها سمحت لأنظمة “الذكاء الاصطناعي” بالتأثير على قراراها فيما يتعلق بعدم توفير الحماية لها والحضانة الوقائية لطفلة توفيت لاحقا وهي في رعاية والدتها بسبب التعنيف.
وقال مسؤول ياباني إن بيانات أنظمة الذكاء الاصطناعي يجب أن تكون “للاطلاع فقط” مؤكدا على أهمية “استخدام الحكم البشري في عملية اتخاذ القرار النهائي”.
وفي تفاصيل القصة، تولت الشرطة حالة فتاة، تبلغ من العمر أربع سنوات، في مدينة تسو، وأدارتها من خلال برنامج ذكاء اصطناعي، أطلق في عام 2020.
وحدد البرنامج حالة الطفلة بأنها تحتاج ما معدله “39 في المئة” من الحماية اللازمة، وأظهرت والدة الفتاة استعدادا للاستجابة لمشورة خبراء توجيه الطفل.
ونتيجة لذلك، لم يضع المسؤولون الفتاة في الحجز المؤقت لإجراء مزيد من التحقيقات في الكدمات الظاهرة على جسدها.
واعترفت الشرطة اليابانية بأنها سمحت للذكاء الاصطناعي بالتأثير على قرارها بعدم توفير الحضانة الوقائية لطفلة توفيت لاحقا في رعاية والدتها.
لكن الفتاة توفيت، وأظهرت التحقيقات الأولية أن موظفي مركز الحماية لم يقوموا بزيارة العائلة للاطمئنان على حال الطفلة، فيما تحتجز الأم، البالغة من العمر 42 عاما، للاشتباه بتسببها بأذى جسدي للابنة، أدى إلى وفاتها.
الخبير الاقتصادي والمتخصص في قطاع الاتصالات وتكنولوجيا المعلومات، وصفي الصفدي، قال إن أنظمة الذكاء الاصطناعي التي وصلنا إليها حاليا “تفتقر إلى الإبداع والذكاء العاطفي ومهارات حل المشاكل اللازمة لاتخاذ القرارات مثل تلك التي يتخذها البشر والتي قد تنطوي على مشاعر وفراسة الشخص”.
وأوضح في حديث مع “الحرة” أن علينا أن “ندرك حقيقة أن أنظمة الذكاء الاصطناعي تتم برمجتها بأهداف محددة، والتي تؤثر وتحد من قدرته على اتخاذ القرارات التي تصب في مصلحة الجميع، وبالتالي فهي ليست حلا سحريا لكل شيء”.
وأضاف الصفدي أن مسؤولية الاستخدام الأمثل لهذه الأنظمة “تقع على عاتق المستخدم الإنسان، وهو من يجب أن تقع عليه المسؤولية القانونية والأخلاقية لمخرجات وقرارات الذكاء الاصطناعي”، إذ أن هدفها التسهيل على الإنسان وليس أخذ دوره.
وأشار إلى أن هذه الأنظمة بالنهاية تعتمد على “خوارزميات تتم تغذيتها بالبيانات، وأي انحراف مقصود في تزويد البيانات ستنشأ عنه مخرجات قد تكون معيبة، ولا تخدم الهدف الحقيقي من تطوير النظام إنما قد تخدم أهداف القائمين عليه أو مشغليه”، مؤكدا أن هذه الأنظمة ليست لاستبدال الأشخاص إنما لتوفر حالة “تكاملية بين الإنسان والآلة”.