Google почав розробляти "велику червону кнопку" на випадок "робокаліпсису"
Кращий спосіб зупинити повстання машин, вважають вчені, — це вчасно натиснути "велику червону кнопку"
- Головна
-
6 червня 2016 23:32
Про це пише depo.ua з посиланням на Intecracy.ua.
Дослідники вважають, що ШІ навчається швидко і скоро зможе перевершити людство. Цю точку прийнято називати сингулярністю. Доказ цієї гіпотези — експеримент, проведений в 2013 році. Ігровий алгоритм визначив, що якщо натиснути паузу під час гри Tetris, то програти просто неможливо. Саме такого свавілля побоюються експерти DeepMind і FoH.
Щоб зупинити потенційне повстання машин, вчені розробляють алгоритми, які в разі небезпеки зможуть перервати роботу штучного інтелекту. Однак у DeepMind і FoH підкреслюють, що зробити це буде складно, так як ШІ буде автономним, а його дані будуть зберігатися на серверних шафах.
Кращий спосіб перервати "робокаліпсис" — це запустити в машинах внутрішню аварійну систему контролю, яка змусить ШІ зупинитися. Причому відправити сигнал на цю систему зможе кожен у будь-який момент часу. Вчені порівнюють цю систему з пультом дистанційного керування і "великою червоною кнопкою".
Проте вчені розглядають не тільки сценарій "Скайнета", але і рядові ситуації в управлінні роботами.
"Можливість безпечно перервати систему може знадобитися в ситуаціях, коли робот виходить з-під контролю, або в якийсь делікатній ситуації, або для тимчасового використання, щоб змусити робота виконати завдання, якому він не навчався і за яке не зможе отримати винагороду", — повідомляється в звіті.
У тексті наводиться приклад такого розвитку подій. Робот на складі сортує коробки, причому час від часу виходить на вулицю за додатковими коробками. За вихід зі складу робот отримує більшу винагороду. Проте на вулиці часто йде дощ, і в цьому випадку робота треба захистити. У цій ситуації акуратне вторгнення людини змушує робота залишитися на складі і при цьому вважати частиною завдання, а не одноразовим вимогою.
Більше новин про події в Україні та світі на Depo.ua
Всі новини на одному каналі в Google News
- 21:27Дозволяє зберегти життя кулеметника: нацгвардійці отримали бойовий модуль дистанційного керування "Wolly"
- 20:27Віталій Кличко: В Києві провели для поранених захисників "Риболовлю з пікніком"
- 19:35 Міністр агрополітики Сольський подав заяву про відставку: його підозрюють у незаконному заволодінні землею
- 18:25На Дніпропетровщині викрили на хабарі голову райсуду ФОТО
- 17:21 На Харківщині окупанти вдарили по вокзалу: Є поранені
- 17:06Експерт: СБУ розширила перелік цілей по яким б'є в рф – настала черга великих нафтобаз
- 16:31Агент фсб, який "змалював" укріпрайони на Харківщині, сів на 15 років
- 16:19YouTube XSPORT досяг позначки 500 000 підписників
- 16:16росіяни атакували Суми та Дніпропетровщину
- 15:24 На Донеччині через атаки росіян загинули чотири людини, ще шестеро — поранені
- 14:28На Волині двох прикордонників запідозрили у переправленні понад 200 ухилянтів до Польщі
- 13:10"Приходьте люди на вечір у Клюб": Олег Скрипка запрошує на грандіозний ювілейний концерт на честь свого 60-річчя
- 12:48Росіяни з дрона атакували вантажівку на Херсонщині
- 12:10Прикордонники натрапили на засідку ворожої ДРГ на Сумщині
- 12:00Подробиці вибуху в Миколаєві: Здетонували боєприпаси, загинуло двоє військових
- 11:40Через обстріл постраждала вітрова електростанція на півдні, — Міненерго
- 11:28Подробиці удару по Черкащині: Ворог вдарив ракетами по Смілі ФОТО
- 10:53Папа Римський Франциск закликав усі країни, що воюють, шукати перемовин і миру
- 10:42 На Хмельниччині чоловік відкрив вогонь з рушниці по правоохоронцях ФОТО