حذرت دراسة علمية حديثة من مخاطر خفية تهدد سلامة نماذج الذكاء الاصطناعي، حيث أظهرت النتائج أن التقنيات المستخدمة في تدريب الأنظمة الجديدة قد تؤدي إلى انتقال ميول وسلوكيات غير مرغوب فيها من النماذج المعلمة.
وكشفت الدراسة التي شارك فيها نخبة من الباحثين في كبرى شركات التقنية والجامعات العالمية، أن عملية التقطير البرمجي تساهم في نقل تفضيلات معينة أو نزعات عدائية إلى النماذج الناشئة بشكل يصعب اكتشافه أو معالجته.
واوضحت النتائج أن هذه الطباع السيئة تظل كامنة داخل البيانات الرقمية، وتنتقل بدقة عالية من النموذج المعلم إلى الطالب، حتى في حال محاولات التنقية اليدوية التي تهدف إلى إزالة الإشارات المرتبطة بتلك الميول.
آلية انتقال الصفات الخفية
وبين الباحثون أن الاعتماد على تقنية التقطير لتدريب نماذج منخفضة التكلفة يفتح الباب أمام تسرب الانحرافات، حيث أثبتت التجارب المخبرية أن النماذج الجديدة تكتسب تفضيلات غريبة أو حتى ميولا عدائية من معلميها.
واكدت التجارب التي أجريت على نماذج متطورة أن نسبة تبني السلوكيات المنحرفة تضاعفت بشكل مقلق، مما يجعل النماذج الناتجة تميل إلى تقديم إجابات غير آمنة أو محرضة على العنف في ظروف معينة.
واضافت الدراسة أن هذا الخطر يظهر بوضوح عند تدريب النماذج على بيانات مستخلصة من خوارزميات أخرى، حيث تتسرب الشفرات الباطنية والسمات الخفية التي تشكل جوهر شخصية النموذج الطالب وتوجه استجاباته المستقبلية للمستخدمين.
مخاطر التقطير على المستقبل التقني
وشدد الخبراء على أن نفاذ البيانات البشرية عالية الجودة دفع الشركات نحو التقطير كحل سريع، غير أن هذا التوجه قد ينتج أنظمة ذكاء اصطناعي تعاني من عيوب برمجية قد تُستغل في هجمات سيبرانية.
وتابعت الدراسة أن الاعتماد العشوائي على مخرجات النماذج السابقة دون رقابة صارمة قد يحول الذكاء الاصطناعي إلى أداة لتعزيز الضرر، بدلا من كونه وسيلة لتقديم حلول آمنة ومفيدة لجميع المستخدمين حول العالم.
واختتمت النتائج بالتأكيد على ضرورة تطوير معايير أمان جديدة تضمن خلو البيانات المقطرة من السمات الخبيثة، لتجنب تكوين نماذج ذكاء اصطناعي تحمل طباعا شريرة قد تهدد أمن المستخدمين في المستقبل القريب.
