Роботів навчили сумніватися у наказах людини

Про це повідомляє IEEE Spectrum, передає depo.ua з посиланням на "Газета.Ru".

Перед виконанням наказу система робота перевіряє наявність фізичних можливостей його виконання і принцип субординації, тобто чи зобов'язаний він виконувати наказ саме цієї людини. Якщо робот не може виконати наказ, він повідомляє причину, з якої це зробити неможливо, однак після уточнення деяких даних він може змінити своє рішення.

Як зазначає джерело, подібні технології застосовуються для розмежування доступу і при передачі даних в обчислювальних системах.

Дослідники записали відео, на якому робот Nao спілкується з людиною за допомогою усного мовлення. У двох з трьох випадків робот виконує наказ після уточнення інформації. Відмова від виконання наказу обумовлений недостатніми повноваженнями людини, що віддає його.