Вчені навчили штучний інтелект сексизму та расизму
Дослідники штучного інтелекту з'ясували, що новітні комп'ютерні системи під час навчання роботі з мовою на прикладі реально існуючих текстів, можуть "засвоїти" приховані в них гендерні та расові стереотипи
- Головна
-
18 квітня 2017 08:49
Про це повідомляє Depo.ua з посиланням на N+1.
Автори нової роботи припустили, що разом із формальною структурою мови комп'ютер може засвоювати історично закріплені в текстах семантичні зв'язки. Для перевірки своєї гіпотези, вчені розробили спеціальний алгоритм Word-Embedding Association Test (WEAT), що являє собою комп'ютерний аналог психологічного тесту підсвідомих асоціацій (IAT).
У класичному варіанті, піддослідному пропонується розсортувати по категоріях слова та картинки на екрані, наприклад віднести малюнок худого людини або поняття "гарний" до категорії "худий або приємне слово". Оцінюючи швидкість виконання завдання, програма визначає, як людина ставиться до представлених понять.
Так, люди швидше асоціюють зображення музичних інструментів з категорією "музичний інструмент або приємне слово", А зображення зброї - з категорією "зброя або неприємне слово".
Алгоритм WEAT виявив у штучного інтелекту ті самі закономірності, що й психологічний тест - назви квітів в системі виявилися пов'язані з приємними словами, а назви комах - з неприємними.
Також з'ясувалося, що чоловічі імена частіше асоціюються з кар'єрою й точними науками, а жіночі - з сім'єю та гуманітарними дисциплінами. Найхарактерніші для темношкірих американців імена виявилися близькі з такими поняттями як "зброя" та "бідність", а імена, що частіше зустрічаються серед білого населення, були пов'язані зі словами "сім'я", "щасливий".
Таким чином ученим вдалося продемонструвати, що штучний інтелект може мимоволі засвоювати стереотипи, які зустрічаються в матеріалах для навчання.
Наочним прикладом засвоєння стереотипів також може служити робота онлайн-сервісу Google Translate. Дослідники помітили, що рід гендерно-нейтрального турецького займенника "о" змінюється в залежності від професії: "o bir doktor" на англійську мову перекладається як "він лікар", а "o bir hemsire" - "вона медсестра".
Більше новин про події в Україні та світі на Depo.ua
Всі новини на одному каналі в Google News
- 10:17 В Польщі затримали російського агента, який пропонував спецслужбам РФ замах на президента України
- 09:56Укрзалізниця повідомляє про відновлення роботи вокзалу в Дніпрі
- 09:32Внаслідок масованої атаки на Дніпропетровщину загинуло 8 людей, з них двоє дітей, - Клименко
- 09:22ППО знищила російський літак Ту-22М3, понад 20 ракет і 14 "шахедів"
- 09:08Наталію Гуменюк звільнено з посади речника Сил оборони Півдня
- 08:54Під атакою росіян опинилися об'єкти "Укрзалізниці: Вокзал у Дніпрі не працює, є поранені серед залізничників
- 08:43В лікарні померла 8-річна дитина, що отримала важкі поранення під час атаки на Дніпропетровщину
- 08:41 На Харківщині через аварію від світла відключать половину регіону
- 08:36Харківська ОВА заявила про низку масованих обстрілів міста Вовчанськ: Є поранені ФОТО
- 08:34 Ракетний удар по Дніпру забрав щонайменше 2 життя. Ще 9 людей поранено ФОТО
- 08:10Втрати окупантів: За добу стало менше на 870 загарбників
- 08:02Принц Гаррі офіційно підтвердив, що тепер є резидентом США
- 07:04Росіяни вдарили ракетами по Дніпру, є поранені
- 00:06Названо дату виходу стрічки про хвору Селін Діон
- 23:35На Вінниччині започаткували модульну навчальну ферму
- 23:10Удар по Вовчанську, що на Харківщині: Горіли кафе, церква та багатоквартирний будинок ФОТО
- 22:56По ЗАЕС 18 квітня вдарив дрон, – МАГАТЕ
- 22:44Підлітки намагалися переправити чотирьох ухилянтів через Тису на гумових човнах
- 22:22Зрадив Батьківщину і отримав гроші: На Полтавщині засудили "громадського активіста"