Google почав розробляти "велику червону кнопку" на випадок "робокаліпсису"
Кращий спосіб зупинити повстання машин, вважають вчені, — це вчасно натиснути "велику червону кнопку"
- Головна
-
6 червня 2016 23:32
Про це пише depo.ua з посиланням на Intecracy.ua.
Дослідники вважають, що ШІ навчається швидко і скоро зможе перевершити людство. Цю точку прийнято називати сингулярністю. Доказ цієї гіпотези — експеримент, проведений в 2013 році. Ігровий алгоритм визначив, що якщо натиснути паузу під час гри Tetris, то програти просто неможливо. Саме такого свавілля побоюються експерти DeepMind і FoH.
Щоб зупинити потенційне повстання машин, вчені розробляють алгоритми, які в разі небезпеки зможуть перервати роботу штучного інтелекту. Однак у DeepMind і FoH підкреслюють, що зробити це буде складно, так як ШІ буде автономним, а його дані будуть зберігатися на серверних шафах.
Кращий спосіб перервати "робокаліпсис" — це запустити в машинах внутрішню аварійну систему контролю, яка змусить ШІ зупинитися. Причому відправити сигнал на цю систему зможе кожен у будь-який момент часу. Вчені порівнюють цю систему з пультом дистанційного керування і "великою червоною кнопкою".
Проте вчені розглядають не тільки сценарій "Скайнета", але і рядові ситуації в управлінні роботами.
"Можливість безпечно перервати систему може знадобитися в ситуаціях, коли робот виходить з-під контролю, або в якийсь делікатній ситуації, або для тимчасового використання, щоб змусити робота виконати завдання, якому він не навчався і за яке не зможе отримати винагороду", — повідомляється в звіті.
У тексті наводиться приклад такого розвитку подій. Робот на складі сортує коробки, причому час від часу виходить на вулицю за додатковими коробками. За вихід зі складу робот отримує більшу винагороду. Проте на вулиці часто йде дощ, і в цьому випадку робота треба захистити. У цій ситуації акуратне вторгнення людини змушує робота залишитися на складі і при цьому вважати частиною завдання, а не одноразовим вимогою.
Більше новин про події в Україні та світі на Depo.ua
Всі новини на одному каналі в Google News
- 23:47Євробачення-2024: Аlyona Аlyona та Jerry Heil виступили у півфіналі Відео
- 23:20На Вінниччині затримали посадовців, які вимагали у фермера майже 42 тис. доларів хабаря (ФОТО, ВІДЕО) ФОТО Відео
- 22:50Національне військове меморіальне кладовище: Нове рішення Кабміну
- 22:33Окупанти підсилюють Бердянський напрямок, — Андрющенко
- 22:05 У ВР пообіцяли карати співробітників ТЦК та СП за порушення прав людини
- 21:44Інавгурація путіна: кремлівський диктатор збирається "переплюнути" сталіна
- 21:26Не подолали Західний Буг: Двоє чоловіків намагалися втекти до Польщі
- 21:01Продавали через Інтернет і відправляли поштою: На Дніпровщині затримали торгівщів зброєю (ФОТО) ФОТО
- 20:36Для дронів в ЗСУ створять окремий рід військ
- 20:29Справа на 7 млрд грн: На Одещині міськрада привласнила 240 га лісу
- 20:05 ЗСУ знищили пункт управління росіян та самохідний міномет "Тюльпан"
- 19:36У парку Кропивницького жінка випала з оглядового колеса та загинула
- 18:40Суд Києва закрив ще одну справу ПриватБанку
- 18:35На Тернопільщині судитимуть чоловіка, який за $9 тисяч пообіцяв незаконного переправити ухилянта за кордон
- 17:49На війні з російськими загарбниками загинув "пластун" з Волині Олександр Машлай ФОТО
- 16:17 На фронті загинув 21-річний оборонець "Азовсталі" Назарій Гринцевич
- 15:49Воював проти ЗСУ на Херсонщині: У Тернополі судили донеччанина, який перейшов на бік росіян
- 14:45 СБУ викрила російських агентів, які готували замах на Зеленського, Малюка та Буданова ФОТО Відео
- 13:20На Львівщині суд на три роки ув'язнив чоловіка за ухилення від мобілізації