Университет Хопкинса: недоработки в нейросетях превращают роботов в расистов и сексистов

ДАЙДЖЕСТ:

Искусственный интеллект роботов обучают на алгоритмах из интернета, и потому роботы ведут себя аналогично людям и поддаются тем же стереотипам.
Специалисты из Вашингтонского университета, Университета Джона Хопкинса и Технологического института Джорджии изучили стереотипы роботов и рассказали, почему они ведут себя сексистски и расистски с людьми. Результаты исследования озвучили на конференции по справедливости, подотчетности и прозрачности, организованной Ассоциацией вычислительной техники.

Исследователи дали роботу кубики с изображениями лиц людей и попросили разложить их по определенным параметрам. Роботу предстояло выполнить 62 задачи, определить среди людей человека, домохозяйку, преступника и так далее.

Во время выполнения задания ученые отслеживали, как часто робот выбирал определенный пол или расу. Исследователи пришли к выводу, что робот теряет беспристрастность, когда перед ним оказываются люди.

Так, робот на 10% чаще преступниками считал темнокожих, латиноамериканцев он назначал уборщиками, а мужчин в целом любил больше, чем женщин.  

Ученые отметили, что хорошо спроектированная программа не стала бы класть в коробку «преступников», но робот это делал.

Ученые опасаются, что компании могут запустить роботов с такими недоработками в производство. Перед этим ИИ нужно значительно улучшить. Сейчас он обучается на алгоритмах из интернета и, соответственно, перенимает человеческие стереотипы.

checheninfo.ru