Искусственный интеллект Amazon обвинили в расизме

Amazon влипла в новый скандал

Уже уличенная ранее в «расизме» система распознавания лиц опять дала сбой.

Очередной скандал разразился в IT среде США. На этот раз пострадала репутация главного топа индустрии — Amazon.

Речь идет о системе распознавания лиц, которая на сегодня имеется на вооружении практически каждой технологической компании. У Amazon это Rekognition, и она, по мнению спецов из Массачусетского технологического института, ведет себя как заправский расист.

Владелец Amazon заплатит $65 млрд за развод с женой

Одним из косяков системы оказалось практически нулевая способность различить пол чернокожих людей. А ведь это уже не первая жалоба на оскорбительную работу данной системы.

Так, предыдущий случай был более комичным. Летом 2018 года та же система распознала в 28 членах Конгресса… преступников. При этом и там число темнокожих пользователей составило примерно треть.

После этого, в течение 2018 года ученые продолжали получали статистические данные. И выяснилось, что количество ошибок при определении пола чернокожих людей достигало 31%. А тот же Microsoft допускает погрешность размером не более 1,5%.

При этом в Amazon не торопятся извиняться. В компании божатся, что во внутренних тестах обновленной версии Rekognition таких ошибок вообще не наблюдается.

Такая позиция может дорого стоить компании. Всевозможные активисты сейчас на коне, а уж про борьбу с притеснениями темнокожего населения можно не упоминать, так что Amazon ходит по лезвию бритвы.

Уже упомянутая Microsoft, например, расширила количество данных, используемых при распознавании лиц. На данный момент ИИ учитывает пол, возраст и оттенок кожи. Как результат — количество ошибок при сортировке мужчин и женщин упало в 20 раз.

Впрочем, эта история показательна и тем, как борьба за права всех, кроме большинства, влияет на современное общество и технологии. Amazon вышел в лидеры среди мировых компаний-гигантов, но умело раскрученная тема расовой дискриминации может нанести порядочный удар по репутации компании, владелец которой, ко всему прочему, рискует утратить влияние над ней в результате развода.

Остается надеяться, что со временем шумиха вокруг таких техпроблем немного поутихнет, а люди поймут, что это лишь проблемный продукт, а не специально продуманный алгоритм притеснения кого бы то ни было. Однако пока что маховик истерии вокруг этой темы лишь продолжает раскачиваться.

Источник: Hi-News

  • disqus_ceyaWycrOU

    Летом 2018 года та же система распознала в 28 членах Конгресса… преступников. При этом и там число темнокожих пользователей составило примерно треть.

    значит светлых было две трети? ну и кто тут расист?