Ученые научили искусственный интеллект сексизму и расизму
Исследователи искусственного интеллекта выяснили, что новейшие компьютерные системы во время обучения работе с языком на примере реально существующих текстов, могут "усвоить" скрытые в них гендерные и расовые стереотипы
- Весь мир
-
18 апреля 2017 08:49
Об этом сообщает Depo.ua со ссылкой на N+1.
Авторы новой работы предположили, что вместе с формальной структурой языка компьютер может усваивать исторически закрепленные в текстах семантические связи. Для проверки своей гипотезы, ученые разработали специальный алгоритм Word Embedding Association Test (WEAT), что представляет собой компьютерный аналог психологического теста подсознательных ассоциаций (IAT).
В классическом варианте, испытуемому предлагается рассортировать по категориям слова и картинки на экране, например отнести рисунок худого человека или понятие "хороший" в категорию "тощий или приятное слово". Оценивая скорость выполнения задания, программа определяет, как человек относится к представленным понятиям.
Да, люди скорее ассоциируют изображение музыкальных инструментов с категорией "музыкальный инструмент или приятное слово", а изображение оружия - с категорией "оружие или неприятное слово".
Алгоритм WEAT обнаружил у искусственного интеллекта те же закономерности, что и психологический тест - названия цветов в системе оказались связаны с приятными словами, а названия насекомых - с неприятными.
Также выяснилось, что мужские имена чаще ассоциируются с карьерой и точными науками, а женские - с семьей и гуманитарными дисциплинами. Характерные для темнокожих американцев имена оказались близки с такими понятиями как "оружие" и "бедность", а имена, которые чаще встречаются среди белого населения, были связаны со словами "семья", "счастливый".
Таким образом ученым удалось продемонстрировать, что искусственный интеллект может невольно усваивать стереотипы, которые встречаются в материалах для обучения.
Наглядным примером усвоения стереотипов также может служить работа онлайн-сервиса Google Translate. Исследователи заметили, что род гендерно-нейтрального турецкого местоимения "о" меняется в зависимости от профессии: "o bir doktor" на английский язык переводится как "он врач", а "o bir hemsire" - "она медсестра".
Больше новостей о событиях в Украине и мире на Depo.ua
Все новости на одном канале в Google News
- 19:41Кличко: Президент отвечает за оборону государства и должен выполнять свои функции до окончания войны
- 18:04Александр Свищев: Наша цель – развивать молодежь в такое тяжелое для Украины время
- 16:01СБУ показала полицейских-коллаборантов из Харьковской области ФОТО
- 15:55 Украина начала получать оружие с разрешением бить по россии, — МИД Латвии
- 15:07Авто оказалось "криминальным": Эксперты Киевского НИЭКЦ МВД спасли покупателя от незаконной сделки
- 15:05В Минэкономики заявили, что Украина вышла на довоенные объемы экспорта
- 14:08Саундтреки сердец украинцев: 14 июня в Osocor Residence споет Тина Кароль
- 13:33"Не бойтесь, приходите", - главу "ВСК против Киева" официально пригласили на комиссию Киевсовета
- 13:33СБУ: Митрополит Запорожский УПЦ МП Лука разжигал религиозную ненависть в Украине, ему вручили подозрение
- 13:09В Харьковской области вручили подозрение главному оккупационному экономисту: Что известно
- 13:05 Оккупанты сбросили УАБ на центр Золочева Харьковской области: Есть погибшие и раненые ФОТО
- 12:51Журналистам восстановят доступ в Раду, решение уже есть, - Стефанчук
- 11:03К митрополиту УПЦ МП, "лоббирующему позицию РПЦ", пришли с обысками, — СМИ
- 09:27Враг обстрелял Харьковскую область авиабомбами и РСЗО
- 09:12Генштаб: За сутки Силы обороны более 130 раз вступали в бой с рашистами
- 17:13 В Харькове в результате утреннего авиаудара один человек погиб, еще 10 – ранены ФОТО
- 17:12Кличко передал Третьей штурмовой бригаде 20 внедорожников, закупленных за деньги громады Киева
- 16:01В Европе лето может быть "чрезвычайно жарким", – Bloomberg
- 15:12Украина разгромила Китай на хоккейной площадке