Google почав розробляти "велику червону кнопку" на випадок "робокаліпсису"
Кращий спосіб зупинити повстання машин, вважають вчені, — це вчасно натиснути "велику червону кнопку"
- Весь мир
-
6 июня 2016 23:32
Про це пише depo.ua з посиланням на Intecracy.ua.
Дослідники вважають, що ШІ навчається швидко і скоро зможе перевершити людство. Цю точку прийнято називати сингулярністю. Доказ цієї гіпотези — експеримент, проведений в 2013 році. Ігровий алгоритм визначив, що якщо натиснути паузу під час гри Tetris, то програти просто неможливо. Саме такого свавілля побоюються експерти DeepMind і FoH.
Щоб зупинити потенційне повстання машин, вчені розробляють алгоритми, які в разі небезпеки зможуть перервати роботу штучного інтелекту. Однак у DeepMind і FoH підкреслюють, що зробити це буде складно, так як ШІ буде автономним, а його дані будуть зберігатися на серверних шафах.
Кращий спосіб перервати "робокаліпсис" — це запустити в машинах внутрішню аварійну систему контролю, яка змусить ШІ зупинитися. Причому відправити сигнал на цю систему зможе кожен у будь-який момент часу. Вчені порівнюють цю систему з пультом дистанційного керування і "великою червоною кнопкою".
Проте вчені розглядають не тільки сценарій "Скайнета", але і рядові ситуації в управлінні роботами.
"Можливість безпечно перервати систему може знадобитися в ситуаціях, коли робот виходить з-під контролю, або в якийсь делікатній ситуації, або для тимчасового використання, щоб змусити робота виконати завдання, якому він не навчався і за яке не зможе отримати винагороду", — повідомляється в звіті.
У тексті наводиться приклад такого розвитку подій. Робот на складі сортує коробки, причому час від часу виходить на вулицю за додатковими коробками. За вихід зі складу робот отримує більшу винагороду. Проте на вулиці часто йде дощ, і в цьому випадку робота треба захистити. У цій ситуації акуратне вторгнення людини змушує робота залишитися на складі і при цьому вважати частиною завдання, а не одноразовим вимогою.
Больше новостей о событиях в Украине и мире на Depo.ua
Все новости на одном канале в Google News
- 17:50"Украинская команда" призывает отблагодарить защитников, приобщившись к Пасхальному сбору на дроны-самолеты
- 23:44Хоккейная сборная Украины выиграла чемпионат мира в своем дивизионе
- 21:34Эксперт: Ударами по НПЗ россии СБУ сажает путина на болезненный шпагат
- 18:03Неделя в эфире. Как будили украинцев в утреннем шоу "Просыпайся!" на "Мы-Украина+"?
- 16:13Киев до сих пор защищает водная линия обороны, которая появилась в начале войны благодаря Александру "Тихоходу", — эксперт
- 15:36Главный матч хоккейного сезона: сегодня сборную Украины ждет финал чемпионата мира
- 10:01 Спецоперация СБУ в Харькове: Враг намеревался поразить противовоздушную оборону ФОТО
- 09:54Оккупанты потеряли еще 20 танков и более тысячи военных, — Генштаб
- 08:37Обстрелы в Харьковской области: Синегубов рассказал о последствиях ударов 2 мая
- 19:41Григорий Козловский и ФК "Рух" устроили праздник для детей погибших защитников ФОТО
- 16:31Виталий Кличко примет участие в Саммите мэров европейских городов в Париже
- 16:28 Оккупанты сбросили КАБ возле Харькова: Пострадали четверо детей
- 14:36 Нардепу от "слуг" вручили подозрение в незаконном обогащении на 11 млн. грн.
- 13:46СМИ обвинили нардепа Заблоцкого в лоббировании поправки к растаможке авто: "В Украину поедет автомобильный хлам"
- 13:06IT-специалист Евгений Шевцов: Департамент киберполиции играет важную роль в борьбе с российскими хакерами PR
- 13:01СБУ схватила организатора "референдума" за присоединение оккупированной части Харьковщины к рф ФОТО
- 12:34 В Харькове дали пожизненное российскому командиру, который расстреливал гражданских ФОТО
- 12:30Ударом по "Новой почте" в Одессе рашисты уничтожили посылок на 3 миллиона грн
- 11:47Транспортный коллапс в Чернигове: И.о. мэра требует от Совета обороны области немедленно восстановить движение транспорта