Роботы на войне — спасение придет?

Модель терминатора Т-600 имеет рост 2 метра, она вооружена до зубов и завернутая в резиновую кожу. Т-600 использует человеческий облик, чтобы подобраться на расстояние, достаточное для использования крупнокалиберного оружия. Терминаторы — машины уничтожения, управляемые искусственным интеллектом – имеют единую миссию: полностью уничтожить человечество.

Но последний фильм «Терминатор: Спасение придет» показывает машину в новом образе. Маркус Райт — чужак, последним воспоминанием которого являются человек в камере смертников. Терминатор с человеческой памятью является ключом к спасению человечества.

Оправданы ли наши опасения относительно восстаний роботов-зомби, вроде T-600? Какие реальные моральные последствия использования роботов в «справедливой войне»? Могут ли роботы быть запрограммированы на моральную ответственность за принятые на войне решения? О

Журналистка Эми Гудман сообщала, что три дня после того, как президент Обама занял пост президента, беспилотные дроны-истребители обстреляли ракетами несколько домов на территории Зоны племен в Пакистане. Двадцать два человека были убиты, в том числе трое детей.

Согласно данным Reuters, с лета прошлого года армия США провела тридцать таких беспилотных нападений на «возможные» позиции «Аль-Каиды» на территории Пакистана, во время которых погибли около 250 человек.

Когда американские войска вошли в Ирак в 2003 году, они не располагали ни робота. Теперь их больше, чем 12 тысяч.

Некоторые роботы используются для ликвидации противопехотных мин и фугасов, но новое поколение ботов разработанное в качестве боевых машин. Один из роботов, известный как SWORDS, может стрелять из винтовки М-16 и ракетницы.

Это «Эрликон» — автоматизированная зенитка, которая недавно убила 9 и ранила 14 солдат армии ЮАР

В новом фильме «Терминаторе» восставшие против людей супер-комопьютер Минобороны США Skynet управляет сетью роботов-охотников: летающими и сухопутными дронами, мотоциклами типа Mototerminators, змееподобными Hydrobots, а также гигантскими комбайнами.

Вызывает тревогу тот факт, что эти роботы существуют в той или иной форме уже сегодня — самолеты-дроны Predator («Хищник») и Reaper («Жнец»), наземные TALON, PacBots, IRobot и BigDogs.

Питер Сингер, автор книги «Автоматизированная война», который консультировал президента Обаму по вопросам науки во время избирательной кампании 2008 года, считает, что мы являемся свидетелями рассвета эры боевых роботов:

«Достаточно взглянуть на цифры. Мы вошли в Ирак в 2003 году без роботов, теперь их 12 тысяч».

Они бывают разных форм и размеров — от маленьких машинок до роботов размером с 18-колесную фуру. Есть такие, что уместились бы на мизинце, а есть гиганты с размахом крыльев в футбольное поле.

Познакомимся с ними поближе.

BigDog — имеет встроенный компьютер, который контролирует его передвижения, оснащен датчиками, которые помогают в адаптации к различным внешним условиям.

Датчики обеспечивают стереовидения, контроль поверхности и возможность непрерывного движения. Самое главное, этот робот оснащен лазерным гироскопом, что помогает балансировать в экстремальных условиях с грузом.

BigDog, который пока что в фазе прототипа, способен сохранять равновесие при полезной нагрузке до 150 килограммов на любой местности.

PacBot — робот-разведчик размером с газонокосилку, имеет камеры и датчики, а также гибкую руку с четырьмя суставами.

Он передвигается с помощью гусениц, которые также могут вращаться на собственной оси, что позволяет ему двигаться вверх и вниз, подниматься по лестнице и даже плавать под водой.

Talon – разработан в Foster-Miller, офис которой находится в нескольких милях от более известной робототехнической компании IRobot’s, был перестроен в «убийце» под названием SWORDS.

Новый дизайн позволяет пользователям монтировать различные виды оружия на этот бот, в том числе М-16, пулеметы, гранаты, реактивный гранатомет и легко заменять их.

MARCbot (многофункциональный гибкий дистанционно пилотируемый робот) — один из самых маленьких, но наиболее часто применяемых роботов в Ираке, выглядит как игрушка-грузовик с вмонтированной видеокамерой.

Цена его всего $5 тысяч, он используется для разведки и поиска взрывчатых веществ под автомобилями.

Predator («Хищник») – 9 метров в длину, этот винтовой беспилотный дрон лишь чуть меньше, чем самолет Cessna. Возможно, самой полезной его особенностью является то, что он может провести до 24 часов в воздухе, на высоте до 9000 метров.

https://youtu.be/L64GT1V-7WM

Видео с камеры наблюдения беспилотника — первой ракетой уничтожают грузовик, второй — водителя. В армии США доступ к такому видео может иметь даже рядовой программист. Есть даже фанаты, которые обмениваются записанными с беспилотников смертями — это называется «хищническое порно». «Хищническое»- от слова «хищник» — Predator

Когда беспилотник вылетает с базы в зону военных действий, пилот может управлять им с расстояния более 10 тысяч километров.

Raven — чуть больше метра в длину (есть даже меньшая версия под названием Wasp, что несет камеру размером с арахис), запускается в воздух солдатами и летит прямо над крышами домов, передавая видеоизображение того, что происходит на улице, или на другой стороне холма.

Средние по размеру модели курсируют целыми кварталами, на высоте более 500 метров, чтобы отслеживать подозрительных лиц.

Армия США является крупнейшим инвестором в роботов-солдат. На программу «Будущие боевые системы» в бюджете было предусмотрено в течение следующих 20 лет потратить 240 миллиардов долларов, но Роберт Гейтс недавно сократил бюджет на 160 миллиардов.

Зингер обеспокоен тем, что в спешке и попытке продвинуть большее количество роботизированных систем много роботов-убийц поступят в армию до того, как они будут готовы на 100 процентов.

Это является ужасной перспективой.

«Представьте себе ноутбук, вооруженный M16», — говорит Ноэл Шарки, профессор департамента робототехники и искусственного интеллекта в Университете Шеффилда.

Одной из наибольших проблем является то, что эта растущая армия роботов может случайно преодолеть предел дальности связи.

«Представьте потерянного робота, который уехал с поля боя в близлежащие села, — говорит Шарки. — Без экспертов, которые бы обезвредили его, результаты могут быть катастрофическими».

Что происходит, когда роботы сами решают, что делать? О один реальный инцидент в 2007 году сообщили из Южноафриканской республики.

«Было некуда спрятаться, — говорит один из свидетелей. — Робот начал стрелять из пушки со скоростью 550 снарядов в минуту, вращаясь при этом на 360 градусов».

К тому времени, когда робот опустошил обойму, девять солдат лежали мертвыми. Еще 14 получили серьезные ранения. Правительственный доклад позже определила кровопролитие как «сбой программного обеспечения».

Этим роботом была зенитная система «Эрликон MK5» с компьютерным управлением и двумя огромными 35-миллиметровыми пушками.

Сложность координации атак с использованием передовых технологий автономной робототехники типа требует сложной компьютерной сети.

В «Терминаторе» изображен вымышленную корпорацию Cyberdyn, которая разрабатывает сеть Skynet. Skynet сначала заменяет людей-пилотов, а затем берет на себя управление всеми другими военными системами вооружений, включая ядерные ракеты и терминаторов.

Это приводит к ядерному «Судного дня», когда сознательный Skynet решил, что люди являются преградой.

Именно сейчас американские военные сейчас разрабатывают сеть суперкомпьютеров в рамках программы «Будущие боевые системы» (FCS).

Ведущим системным интегратором в этой программе является компания «Боинг».

General Dynamics и BAE Systems были выбраны армией для разработки наземных роботов, а «Боинг» получил контракт на развитие компьютерной сети программы FCS.

Министерство обороны также финансирует исследования автономных или «самоуправляемых» вооруженных роботов, которые смогли бы находить и уничтожать цели сами по себе.

Бортовые компьютеры, а не люди, будут решать, следует ли применять оружие.

«Тенденция понятна — война будет продолжаться, и автономные роботы в итоге будут разрешены», — говорит Рон Аркин, эксперт по робототехнике Технологического института Джорджии в Атланте. Аркин выступает за развитие «этической составляющей» работа.

Согласно предположениям Джона Пайка, эксперта по вопросам обороны и разведывательным вопросам и директора по безопасности веб-сайта GlobalSecurity.org, автономные вооруженные робототехнические системы, вероятно, будут функционировать уже с 2020 года.

Ноэл Шарки из Шеффилдского университета говорит: «Мы направляемся в прекрасный мир, где роботы будут решать, кто, где и когда будет убит».

Шарки, критик автономных роботов, говорит, что «этическая составляющая» Аркіна является «хорошей идеей, но, увы, она обречена на провал, поскольку в настоящее время нет роботов с системой искусственного интеллекта, которая могла бы отличать боевиков от мирных жителей — такой возможности зондирования просто не существует».

Философ Питер Азаро также волнуется по поводу этичности работа на войне. Он справедливо отмечает, что это будет «трудно продать», так же как и убедить военных создавать роботов, которые могут не подчиняться приказам. «Я не думаю, что мы увидим такую возможность в ближайшее время», — заключает он.

Очевидно, что Пентагон продвигается в направлении автоматизации войны — включая сети суперкомпьютеров вроде Skynet.

Возможно, Рон Аркин прав, когда утверждает, что мы можем сделать роботов моральными, и этим уменьшить жертвы среди гражданского населения. Возможно — только возможно — вымышленный робот Маркус Райт в новом Терминаторе, с человеческой памятью и состраданием, предлагает путь для продвижения вперед.

Но для этого еще рановато. С такими сделками, как 16,8 миллионный контракт с IRobot для создания PackBot 510 серии, мы, вероятно, увидим еще не один «сбой программного обеспечения».

Все же надеемся, что шансы на сбой в программе масштаба «Терминатор: судный день» в программе «Будущие боевые системы» равны нулю. А еще настаиваем на создании «этической инстанции» для роботов до того, как более сложные системы искусственного интеллекта вступят в бой.

Ибо спасение человека в будущем может однажды зависеть от терминатора. Актриса Мун Бладгуд говорит Кристиану Бэйлу в «Терминатор: Спасение придет»: «Он спас мою жизнь. Я увидела человека, а не машину».