КРИПТОВИКИ
Новости криптовалют на сегодня

В программу для борьбы со списыванием интегрировали «расистский» алгоритм определения лиц

В программу для борьбы со списыванием интегрировали «расистский» алгоритм определения лиц cryptowiki.ru

Программа Proctorio, которая следит за тем, чтобы учащиеся не жульничали на экзаменах, в половине случаев не определяет лица темнокожих пользователей. К такому выводу пришел Акаш Сатисан — студент, который лично столкнулся с предвзятостью алгоритма, пишет Motherboard.

Сатисан решил изучить методы распознавания лиц Proctorio и выяснил, что они работают идентично OpenCV — алгоритму компьютерного зрения с открытым исходным кодом.

Он провел несколько тестов с использованием OpenCV и набора данных, предназначенного для оценки точности работы алгоритма машинного зрения с лицами разных национальностей.

В программу для борьбы со списыванием интегрировали «расистский» алгоритм определения лиц cryptowiki.ruТочность определения лиц на фотографиях с использованием модели компьютерного зрения OpenCV. Данные: Акаш Сатисан.

Оказалось, что алгоритм не только не распознал лица темнокожих более чем в половине случаев, но и продемонстрировал низкую точность идентификации людей любой из национальностей — самый высокий показатель попаданий был меньше 75%.

Proctorio не раскрывает подробностей, как работают их алгоритмы определения лиц. Однако на сайте имеется упоминание OpenCV в разделе с лицензиями, что косвенно подтверждает использование этого алгоритма.

На запрос журналистов представитель компании заявил, что тесты Сатисана доказывают — их программное обеспечение только ищет лица, но не распознает личности, связанные с ними.

Распознавание лиц, расизм и полиция: история одного стартапа

Напомним, в начале апреля исследователи Кембриджского университета создали онлайн-игру Emojify, которая демонстрирует возможности и недостатки технологий распознавания эмоций человека.

В январе 2021 года правозащитная организация Amnesty International призвала запретить распознавание лиц в общественных местах. В организации считают, что биометрическая идентификация людей с помощью камер уличного наблюдения — грубое вмешательство в личную жизнь граждан.

В начале 2019 года темнокожий американец провел десять суток в тюрьме из-за ошибки распознавания лиц. Мужчина намерен судиться с местной полицией за безосновательный арест.

Источник: forklog.com

Пoжaлyйcтa оцените и поделитесь новостью, мы старались для Вас:

1 Звезда2 Звезды3 Звезды4 Звезды5 Звезд (Пока оценок нет)
Загрузка...



Получайте обновления в реальном времени прямо на вашем устройстве, подпишитесь сейчас.

Оставить комментарий

Ваш электронный адрес не будет опубликован.

Этот сайт использует куки. Мы предполагаем, что вы не против этого, но вы можете отказаться, если хотите. Принять Читать далее