Исследование: алгоритмы Twitter «предпочитают» молодых и стройных девушек

Исследование: алгоритмы Twitter «предпочитают» молодых и стройных девушек cryptowiki.ru

Алгоритм автоматической обрезки фотографий в ленте Twitter отдает предпочтение стройным девушкам. К такому выводу пришел исследователь Федеральной политехнической школы Лозанны в ходе конкурса по выявлению алгоритмической предвзятости в социальной сети.

Аспирант кафедры компьютерной безопасности Богдан Кулинич использовал технику дипфейка для автоматического создания изображений различных лиц. Затем он протестировал алгоритм обрезки фото, чтобы увидеть, как он отреагирует на них.

Исследование: алгоритмы Twitter «предпочитают» молодых и стройных девушек cryptowiki.ruДемонстрация работы алгоритма обрезки изображений. Данные: Twitter.

Кулинич выяснил, что инструмент кадрирования фотографий выделяет молодых и стройных женщин, оставляя других людей и объекты вне поля зрения.

«По сути, чем стройнее, моложе и женственнее изображение, тем вероятнее ему будет отдаваться предпочтение», — заявил главный научный сотрудник консалтинговой компании BNH и один из членов жюри Патрик Холл.

Исследователь безопасности в OpenAI Ариэль Герберт-Восс считает, что обнаруженные конкурсантами предвзятости алгоритма отражают предубеждения людей, предоставивших данные для обучения модели. По ее словам, тщательный анализ алгоритмов может помочь продуктовым командам устранить проблемы с их ИИ-моделями.

Дата-сайентист Даниил Швец: алгоритмам часто приписывают предвзятость, невзирая на зависимость данных

Первый конкурс по обнаружению алгоритмической предвзятости в Twitter проходил с 30 июля по 6 августа 2021 года. Итоги соревнования компания объявила 8 августа в рамках конференции DEF CON AI Village.

Победитель конкурса Богдан Кулинич получил от компании приз в размере $3500.

Напомним, в июне OpenAI сообщила, что смягчила предвзятость и токсичность в языковой модели GPT-3.

В апреле группа студентов пожаловалась на наличие предубеждений у искусственного интеллекта, который следит за тем, чтобы учащиеся не жульничали на экзаменах.

Источник: forklog.com

Оцените автора
( Пока оценок нет )
КриптоВики
Добавить комментарий