فیس اپ
فیس اپ، یک برنامه ویرایش عکس که از شبکه های عصبی برای ویرایش سلفی ها به صورت واقع گرایانه استفاده می کند، به خاطر ادغام یک الگوریتم نژادپرستانه عذرخواهی کرده است. این برنامه به کاربران اجازه می دهد تا سلفی های خود را آپلود کرده و فیلترهایی را برای تغییر ظاهر آنها، از جمله پیر شدن و تعویض جنسیت، اعمال کنند. مشکل با یک فیلتر به نام “زیبایی” ایجاد شد، که کاربران متوجه شدند که رنگ پوست را روشن تر می کند و این نشان دهنده یک سوگیری نژادی واضح است.
مدیرعامل این برنامه، یاروسلاو گونچاروف، این مسئله را تایید کرد و گفت که این یک “عوارض جانبی ناخوشایند” از سوگیری داده های آموزش شبکه عصبی زمینه ای است. او همچنین اعلام کرد که نام این فیلتر به “جرقه” تغییر خواهد کرد و یک راه حل کامل برای آن در حال اجراست.
در حالی که فیس اپ فقط یک نمونه است، این اتفاق به یک مشکل اساسی اشاره می کند: سوگیری الگوریتمی. مدل های یادگیری ماشین، از جمله شبکه های عصبی، با استفاده از مجموعه داده های عظیم آموزش داده می شوند و اگر این مجموعه داده ها حاوی سوگیری باشند، می توانند در خروجی مدل منعکس شوند. این می تواند به نتایج تبعیض آمیز مانند فیلتر “زیبایی” فیس اپ منجر شود.
این حادثه یادآور مهمی است که توسعه دهندگان و محققان باید با دقت به پتانسیل سوگیری در داده ها و الگوریتم های خود توجه کنند. راه حل های قوی لازم است تا اطمینان حاصل شود که سیستم های هوش مصنوعی به طور اخلاقی ساخته شده اند و کلیشه های مضر را تکرار نمی کنند.
