Роботы с искусственным интеллектом, обученные на основе данных, находящихся в свободном доступе в Интернете, — сексисты и расисты. К таким выводам пришли исследователи из Университета Джона Хопкинса, Технологического института Джорджии и Вашингтонского университета. Они объявили о своих выводах на конференции в Южной Корее.
Речь идет о роботах в виде манипуляторов, управляемых ИИ на основе нейронной сети. Его обучали распознавать объекты по данным, свободно распространяемым в Интернете, в том числе на форумах. В результате сеть, полная стереотипов, стала частью «мыслительного процесса» ИИ.
В ходе эксперимента роботам предлагалось множество кубиков с портретами разных людей — мужчин, женщин, белых, азиатов, афроамериканцев и так далее. Затем роботов попросили отсортировать кости по тому или иному признаку. Например, на просьбу положить в коробку кубики с портретами преступников роботы чаще выбирали афроамериканцев. Женщин называли «домохозяйками», выходцев из Латинской Америки — «уборщицами», «врачами» обычно были белые или азиаты.
«Мы рискуем создать поколение расистских и сексистских роботов», — заявили исследователи. И они призвали к большей осторожности при обучении ИИ через Интернет, где нейронные сети рисуют тысячи человеческих стереотипов.
Подписывайтесь на «Гродно 24» в Дзен Новости и на наш канал в Дзен