FaceApp
اعترفت FaceApp، تطبيق تحرير الصور الذي يستخدم الشبكات العصبية لتحرير الصور الشخصية بطريقة واقعية، بأنها أنشأت خوارزمية عنصرية. يسمح التطبيق للمستخدمين بتحميل صور شخصية وتطبيق فلاتر لتغيير مظهرها، بما في ذلك الشيخوخة وتبديل الجنس. نشأت المشكلة مع فلتر يسمى “الجمال” ، والذي وجد المستخدمون أنه يفتيح لون البشرة، مما يدل على تحيز عرقي واضح.
اعترف الرئيس التنفيذي للتطبيق، ياروسلاف غونشاروف، بالمشكلة، قائلاً إن هذا “أثر جانبي غير مرغوب فيه” لِتحيز بيانات تدريب الشبكة العصبية الأساسية. كما أعلن عن تغيير اسم الفلتر إلى “شرارة” وخطط لتنفيذ حل كامل.
في حين أن FaceApp ليست سوى مثال واحد، فإن الحادث يسلط الضوء على مشكلة حاسمة: التحيز الخوارزمي. يتم تدريب نماذج التعلم الآلي، بما في ذلك الشبكات العصبية، باستخدام مجموعات بيانات ضخمة، وإذا كانت هذه مجموعات البيانات تحتوي على تحيزات، فيمكن أن تنعكس في مخرجات النموذج. يمكن أن يؤدي هذا إلى نتائج تمييزية، مثل فلتر “الجمال” في FaceApp.
يُعد الحادث تذكيرًا قويًا بأن المطورين والباحثين يجب عليهم مراجعة احتمالية التحيز في بياناتهم وخوارزمياتهم بعناية. تُطلب تدابير قوية لضمان بناء أنظمة الذكاء الاصطناعي بشكل أخلاقي وعدم تكرار الصور النمطية الضارة.
