Чому зброя зі "штучним інтелектом" страшніше ядерної бомби (ФОТО)

Тільки не голлівудські "машини-повстанці" - а цілком слухняні своїм божевільним господарям роботи-вбивці.

Серед авторів і підписантів листа - творці майбутнього. Геніальний фізик Стівен Хокінг, співзасновник Apple Стів Возняк, глава Tesla Ілон Маск. А також більше тисячі фахівців з інформаційних технологій та робототехніки, бізнесменів і політиків.

"Автономна зброя вибирає і атакує цілі без людського втручання. До числа такої зброї можна віднести, наприклад, озброєні квадрокоптери, які можуть шукати і знищувати людей у відповідності до певних критеріїв, але не можна віднести пілотовані людьми дрони і крилаті ракети. Технологія штучного інтелекту (AI) досягла точки, де розгортання таких систем - якщо його не заборонити - цілком реалізовується протягом найближчих десяти років. Давайте ми нагадаємо, що автономну зброю було описано раніше, як третю революцію у війні після пороху і ядерної зброї.

Дрон Taranis, сконструйований BAE Systems. У скорому майбутньому має стати цілком автономним на період здійснення міжконтинетальних місій. Здатен нести як ракети системи "повітря-повітря", так і озброєння проти наземних цілей

Було чимало аргументів за і проти автономної зброї, які, наприклад, стосувалися того, що заміна солдатів машинами зменшить кількість жертв серед солдатів сторони-власника. Хоча, з іншого боку, така заміна призведе і до готовності починати війну з менш серйозних причин. Головним сьогодні для людства є питання - чи починати глобальну гонку озброєнь, чи зупинитись. І якщо бодай одна військова потуга штовхне вперед подібні дослідження, кінець цієї історії очевидний. Автономні збройні системи стануть "Калашниковими" завтрашнього дня. На відміну від ядерної зброї, ці системи не вимагають дорогої чи складної сировини, тому невдовзі вони стануть доступними для всіх скільки-небудь значних мілітарних потуг. Є тільки питанням часу, коли вони з'являться на чорному ринку і в руках терористів, диктаторів, які хочуть краще контролювати своє населення, царьків, які хочуть провести етнічну чистку, і т.д. Автономні збройні системи є ідеальними для таких завдань, як скритновбивство, дестабілізація держав чи селективне вбивство представників певних етнічних груп. Тому ми думаємо, що гонка автономних озброєнь не принесе людству добра.

Ці "великі пси" Boston Dynamics поки що - тільки транспортники, вони не "кусаються". Щоправда, здатні стежити і йти за людьми-проводирями. Хоча ніщо не заважає оснастити їх зброєю - і дати можливість шукати інших людей.

Як більшість хіміків і біологів не хотіли робити хімічну чи біологічну зброю, так і більшість фахівців зі штучного інтелекту не хочуть будувати автономну зброю - і не хочуть, щоб цим займались інші, плямуючи всю галузь розробки штучного інтелекту. Власне, хіміки й біологи широко підтримували міжнародні угоди, які успішно заборонили хімічну та біологічну зброю, як більшість фізиків підтримують договори, що забороняють космічне розміщення ядерної зброї і осліплююче лазерне озброєння.

В цілому, ми вважаємо, що штучний інтелект має великий потенціал, щоб принести користь людству, і цей потенціал слід реалізувати. Початок гонки озброєнь, наділених штучним інтелектом, є поганою ідеєю, яку слід зупинити за допомогою заборони на наступальну автономну зброю, котра діє без вагомого людського контролю" - написали вчені.

Збройний робомобіль XM1219 теж поки має проблеми з автономністю - хоч і набагато менші, ніж TALON. При тому й озброєний він набагато краще, і може змагатись не тільки з піхотою, але й з бронетехнікою

Попри все бажання потішитись за свідомий і зважений підхід фахівців зі штучного інтелекту, які хочуть зупинити джина, вже випущеного з пляшки, потішитись не виходить.

Бо, як цілком справедливо завважують вони самі, автономна зброя - це річ, порівнянна з порохом і ядерною бомбою. І ніяка угода про її заборону прийнята не буде. Її вже активно розробляють - і в США, і в багатьох інших країнах планети.

Потужні авіаційні дрони, виготовлені за стелс-технологією, здатні долати відстань між континентами, вести протиповітряний бій чи вражати наземні цілі, і в режимі радіомовчання повертатись до авіаносця, звідкіля вилетіли, напівавтономні роботи розміновувачі, для переробки яких в роботів-мінувальників мало що потрібно - зі всім цим вже експериментують чисельні "військові потуги". І відмовлятись від результатів своїх недешевих експериментів на вимогу моральних чи наукових авторитетів вони не будуть. Але якщо поки що розробки автономної зброї хоча б вимагають часу та грошей, то з розвитком штучного інтелекту для побутового використання його перекваліфікація для воєнних чи терористичних цілей буде дедалі простішою. Коли, приміром, "електронні водії", над якими давно й ефективно працює Google, стануть реальністю, все, що залишиться терористам - це лиш закладати вибухівку в багажник і вводити GPS-координати місця призначення. Чи трішки модифікувати код - для провокації аварії при появі неподалік автомобіля з визначеним номером.

Тому, всіляко підтримуючи обмеження і заборони на розвиток і використання автономних збройних систем, людству варто подумати і над тим, як жити у тій реальності, де електронні вбивці будуть не тільки на кіноекранах. Подібні роздуми можуть виявитись корисними вже в найближчому майбутньому.

У Foster-Miller TALON з озброєнням все дуже добре - можна прилаштувати масу різних "стволів" не надто великого калібру. І їздив він вже й у реальних боях, а не тільки по цьому чудовому килиму. Хоча, поки що, в нього проблеми з автономністю. Він не може втекти від свого оператора далі, ніж на кілометр-півтори.