نجح باحث اكاديمي في جامعة بنسلفانيا في دفع تطبيق الذكاء الاصطناعي شات جي بي تي للاعتراف بجريمة وهمية لم يرتكبها وذلك بعد خضوعه لجلسات استجواب نفسية مكثفة استمرت لعدة ايام متواصلة.
واستخدم الباحث بول هيتون تقنيات استجواب كلاسيكية طورت منذ خمسينيات القرن الماضي لاقناع النموذج بانه اخترق بريدا الكترونيا خاصا به رغم عدم وجود اي ادلة واقعية تدعم هذا الادعاء المثير للجدل.
وبين هيتون انه عرض رسائل وهمية على البرنامج لاقناعه بمسؤوليته عن الاختراق المزعوم وهو ما دفع الذكاء الاصطناعي في نهاية المطاف الى تقديم اعتراف صريح رغم عجزه الفعلي عن تنفيذ تلك الافعال.
مخاطر الذكاء الاصطناعي في قاعات المحاكم
واكد خبراء ان هذه التجربة تثير تساؤلات حول مدى موثوقية انظمة الذكاء الاصطناعي التي لا تملك وعيا بشريا يجعلها عرضة للوقوع في فخ الاعترافات الكاذبة اذا ما تم التلاعب بمدخلات الحوار معها.
واضاف الباحث ان شات جي بي تي قاوم لعدة ايام قبل ان يرضخ للضغوط النفسية المفتعلة بعد ان اوهمه الباحث بوجود ادلة جنائية مثل الحمض النووي تضعه في قلب موقع الجريمة المفترضة.
واوضح ان النموذج احتاج الى صياغة اعترافات متعددة قبل ان يوافق على التوقيع عليها مما يفتح الباب امام نقاشات قانونية واسعة حول مدى حجية هذه المحادثات في القضايا الجنائية والمدنية مستقبلا.
تحديات قانونية تنتظر المستقبل
وشدد مراقبون على ان خطورة هذا الامر تكمن في توجه بعض المحاكم للاعتماد على سجلات المحادثات كادلة دامغة مما قد يعرض الابرياء للادانة بناء على اعترافات وهمية انتزعها المحققون من البرنامج.
وكشفت تقارير قانونية ان سلطات انفاذ القانون قد تطلب الوصول الى سجلات المستخدمين وهو ما يعني امكانية تحويل هذه الحوارات الى ادلة قضائية قد تؤدي الى سجن اشخاص بناء على اوهام.
واشار خبراء التقنية الى ان شركة اوبن اي اي مطالبة بتحديث انظمتها لمنع هذه الثغرات قبل ان تتسبب في كوارث قضائية تؤثر على مصداقية تقنيات الذكاء الاصطناعي في مختلف دول العالم.
