FaceApp извинилась за создание расистского алгоритма: тревожный сигнал о проблеме алгоритмической предвзятости
FaceApp, приложение для редактирования фотографий, которое использует нейронные сети для редактирования селфи в реалистичном стиле, извинилось за создание расистского алгоритма. Приложение позволяет пользователям загружать селфи и применять фильтры для изменения их внешности, включая старение и смену пола. Проблема возникла с фильтром под названием “красота”, который, как обнаружили пользователи, осветлял цвет кожи, что свидетельствует о явной расовой предвзятости.
Генеральный директор приложения Ярослав Гончаров признал проблему, заявив, что это “нежелательный побочный эффект” предвзятости в данных обучения базовой нейронной сети. Он также объявил о переименовании фильтра в “искру” и о планах внедрения полного решения проблемы.
Хотя FaceApp – это всего лишь один пример, этот случай подчеркивает серьезную проблему: алгоритмическую предвзятость. Модели машинного обучения, включая нейронные сети, обучаются на огромных наборах данных, и если эти наборы данных содержат предвзятость, она может отражаться в результатах модели. Это может привести к дискриминационным результатам, таким как фильтр “красоты” в FaceApp.
Инцидент служит мощным напоминанием о том, что разработчики и исследователи должны тщательно рассматривать потенциальную предвзятость в своих данных и алгоритмах. Необходимы эффективные меры для обеспечения того, чтобы системы искусственного интеллекта создавались этично и не воспроизводили вредные стереотипы.
