Вчені навчили штучний інтелект сексизму та расизму
Дослідники штучного інтелекту з'ясували, що новітні комп'ютерні системи під час навчання роботі з мовою на прикладі реально існуючих текстів, можуть "засвоїти" приховані в них гендерні та расові стереотипи
- Головна
-
18 квітня 2017 08:49
Про це повідомляє Depo.ua з посиланням на N+1.
Автори нової роботи припустили, що разом із формальною структурою мови комп'ютер може засвоювати історично закріплені в текстах семантичні зв'язки. Для перевірки своєї гіпотези, вчені розробили спеціальний алгоритм Word-Embedding Association Test (WEAT), що являє собою комп'ютерний аналог психологічного тесту підсвідомих асоціацій (IAT).
У класичному варіанті, піддослідному пропонується розсортувати по категоріях слова та картинки на екрані, наприклад віднести малюнок худого людини або поняття "гарний" до категорії "худий або приємне слово". Оцінюючи швидкість виконання завдання, програма визначає, як людина ставиться до представлених понять.
Так, люди швидше асоціюють зображення музичних інструментів з категорією "музичний інструмент або приємне слово", А зображення зброї - з категорією "зброя або неприємне слово".
Алгоритм WEAT виявив у штучного інтелекту ті самі закономірності, що й психологічний тест - назви квітів в системі виявилися пов'язані з приємними словами, а назви комах - з неприємними.
Також з'ясувалося, що чоловічі імена частіше асоціюються з кар'єрою й точними науками, а жіночі - з сім'єю та гуманітарними дисциплінами. Найхарактерніші для темношкірих американців імена виявилися близькі з такими поняттями як "зброя" та "бідність", а імена, що частіше зустрічаються серед білого населення, були пов'язані зі словами "сім'я", "щасливий".
Таким чином ученим вдалося продемонструвати, що штучний інтелект може мимоволі засвоювати стереотипи, які зустрічаються в матеріалах для навчання.
Наочним прикладом засвоєння стереотипів також може служити робота онлайн-сервісу Google Translate. Дослідники помітили, що рід гендерно-нейтрального турецького займенника "о" змінюється в залежності від професії: "o bir doktor" на англійську мову перекладається як "він лікар", а "o bir hemsire" - "вона медсестра".
Більше новин про події в Україні та світі на Depo.ua
Всі новини на одному каналі в Google News
- 22:50Національне військове меморіальне кладовище: Нове рішення Кабміну
- 22:33Окупанти підсилюють Бердянський напрямок, — Андрющенко
- 22:05 У ВР пообіцяли карати співробітників ТЦК та СП за порушення прав людини
- 21:44Інавгурація путіна: кремлівський диктатор збирається "переплюнути" сталіна
- 21:26Не подолали Західний Буг: Двоє чоловіків намагалися втекти до Польщі
- 21:01Продавали через Інтернет і відправляли поштою: На Дніпровщині затримали торгівщів зброєю (ФОТО) ФОТО
- 20:36Для дронів в ЗСУ створять окремий рід військ
- 20:29Справа на 7 млрд грн: На Одещині міськрада привласнила 240 га лісу
- 20:05 ЗСУ знищили пункт управління росіян та самохідний міномет "Тюльпан"
- 19:36У парку Кропивницького жінка випала з оглядового колеса та загинула
- 18:40Суд Києва закрив ще одну справу ПриватБанку
- 18:35На Тернопільщині судитимуть чоловіка, який за $9 тисяч пообіцяв незаконного переправити ухилянта за кордон
- 17:49На війні з російськими загарбниками загинув "пластун" з Волині Олександр Машлай ФОТО
- 16:17 На фронті загинув 21-річний оборонець "Азовсталі" Назарій Гринцевич
- 15:49Воював проти ЗСУ на Херсонщині: У Тернополі судили донеччанина, який перейшов на бік росіян
- 14:45 СБУ викрила російських агентів, які готували замах на Зеленського, Малюка та Буданова ФОТО Відео
- 13:20На Львівщині суд на три роки ув'язнив чоловіка за ухилення від мобілізації
- 12:44На Дніпропетровщині у ТЦК помер чоловік нібито від нападу епілепсії: родичі заявляють про вбивство ФОТО
- 11:38В Україні заплановано рекордний імпорт електроенергії, споживання зростає