" (Создан для войны), плодотворные размышления про боевых роботов, и " Ghost Fleet " (Призрачный флот), повесть про Третью мировую войну, благодаря которой он делал доклад для Комитета Сената США по вооружённым силам . Он был техническим консультантом при создании таких игр, как «Call of Duty» и «Metal Gear», а также на съёмках голливудских фильмов. Когда серьёзные люди хотят обсудить применение машин в войнах, они приглашают Сингера, или приходят в его офис в мозговой центр New America Foundation, расположенный всего в одном квартале от Белого дома.
Поэтому не было ничего удивительного в том, что его пригласили на военно-игровой проект, пытающийся предсказать ход войн в будущем. Но прибыв туда, он обнаружил, что для иллюстрации боевых роботов будущего авторы проекта использовали картинки из таких фильмов, как «Terminator».
«А почему бы вам не взять изображения реальных машин, действующих уже сейчас?», спросил он. Как это ни удивительно, даже военные планировщики, представляя будущее войн, склоняются к НФ-роботам. «Но я должен был сказать им, чтобы они не отбрасывали полностью идею мехов ».
Но, несмотря на обилие существующих военных роботов, игры также склоняются к их НФ-версиям. За последние пару месяцев две игры о будущих войнах, «Call of Duty: Infinite Warfare» и «Titanfall 2», демонстрируют мир, населённый автономными военными машинами, эмулирующими человеческую анатомию, от антропоморфной робопехоты до мехов, управляемых ИИ.
Titanfall 2
Насколько это реалистично? Соответствует ли это реальному использованию роботов на полях сражений, и вообще, зачем нужен робот в виде человека, с руками, ногами и головой? На самом деле, это очень сложный вопрос, открывающий результат смешивания будущих роботов в представлении художника и реально строящихся учёными машин.
Несмотря на научно-фантастический привкус, вопрос внешнего вида и действий боевых роботов удивительно сильно связан с сегодняшним днём. В будущем году администрация Трампа будет решать, можно ли разрешить роботам выискивать и убивать людей на поле боя без человеческого руководства.
Шаг за шагом
Контраст между практическим применением роботов и НФ существовал с момента появления этого жанра. В истории «Робби», открывавшей сборник «Я, робот» Айзека Азимова от 1950 года, Азимов предсказывал, что к 1998 году роботы уже будут передвигаться достаточно хорошо, чтобы стать партнёром по играм для детей, но при этом «Говорящий робот» будет громоздким устройством, ограниченным пределами музея. В реальности всё произошло наоборот – у вас в кармане, наверно, есть «говорящий» бот, умеющий отвечать на вопросы, но науке ещё предстоит в совершенстве овладеть биомеханикой человеческого движения.Согласно доктору Сингеру, ноги являются сложной задачей для инженеров, поскольку они комбинируют задачи передвижения и балансировки. Для одного шага требуется работа десятка мускулов, суставов и связок , работающих вместе, от пальцев ног до бёдер, а тело и мозг при этом выполняют подстройку «на лету». Роботы ещё не дошли до этого. Из-за сложности задачи Сингер считает, что разработка ходячих роботов, даже таких известных их представителей, как Atlas от Boston Dynamics , находится в стадии «научного проекта».
«Работа над ними идёт, но ещё не один из проектов не был введён в действие,- говорит Сингер. – Нет ни одного рабочего прототипа, демонстрировавшегося на выставке. Мы ещё не дошли до этого».
По его словам, хотя в лаборатории антропоморфные роботы выглядят многообещающе, но сейчас они пригодны лишь для съёмки крутых видео для YouTube . Многие не могут работать без привязки к внешнему питанию. При этом, другие типы военных роботов – передвигающихся на колёсах, гусеницах, крыльях и пропеллерах – уже используются на полях сражений. «Роботы с ногами – всё ещё научный проект, а другие виды можно потрогать, увидеть в деле и купить».
Когда Сингер консультирует разработчиков игр и авторов сценариев военных действий, он держит их в курсе реальной скорости развития робототехники. Поэтому в Black Ops II, разворачивающейся в ближайшем будущем, можно будет увидеть насекомоподобных дронов, беспилотники и миниатюрные танки-часовые, и никаких гуманоидных роботов.
«Сложно представить, что через десять лет у нас будет много роботов с ногами,- говорит он. – Лет через 50 эти проблемы уже решат».
Но, по его словам, мы рано или поздно увидим роботов с ногами – поскольку такие системы крайне востребованы для городских боёв.
Человеческие тела для человеческих городов
Частично люди зацикливаются на гуманоидных роботах из-за недостатка воображения, цепляясь за то, что видели в кино. Но в будущем антропоморфных роботов наверняка будут дислоцировать на поле битвы. С учётом скорости урбанизации и роста населения, военный колледж США предсказывает, что в ближайшие десятилетия всё больше боёв будет идти в местах с высокой урбанизацией – то есть в местах, предназначенных для того, что двигается и выглядит, как люди.«Если вы задумали робота, способного перемещаться в здании,- говорит Сингер,- то вспомните, что здания предназначены для людей определённой высоты или формы. Это реальная проблема дизайна. Мы строим мир определённым образом».
Исследователи пытаются создавать роботов, способных передвигаться в условиях простейшей человеческой архитектуры. В 2008 году на TechX Challenge предложили приз в $700 000 команде, чей робот сможет автономно войти в здание, подняться по лестнице и нажать в лифте кнопку определённого этажа. Никто его не выиграл . Большинство роботов даже до входной двери не добрались. А её даже не требовалось открывать.
Но технологии не стоят на месте. Недавно команда из Стэнфорда построила робота, способного не только нажать нужную кнопку, но и распознать кнопки на панели лифта , не виденные им ранее. Это был скачок развития. У робота работали «глаза» и «палец» – два критичных компонента оборудования, необходимые людям для передвижения по зданиям. Но лестница – такое же неестественное человеческое изобретение, как и лифт – могла остановить его.
И наоборот, используемые сейчас роботы для обезвреживания бомб обычно передвигаются на колёсах, гусеницах, или сочетают эти методы. Многие из них могут карабкаться по лестницам, пусть и неуклюже.
Если верить Сингеру, системы с ногами достойны того, чтобы их разрабатывать. Разные системы движения подходят для разных типов местности – колёса быстрые, но им требуются плоские поверхности, гусеницы жертвуют скоростью для возможности передвижения по камням – но человеческие ноги универсальны. «Ходить можно по чему угодно,- говорит он,- по ровной местности, ступенькам или горе. Можно ходить как по бетону, так и по песку».
Освоить передвижение в строениях также необходимо, поскольку военным нужны роботы, способные зачищать здания – чрезвычайно опасное занятие. Один из исполняющих свою роль роботов – это 110 FirstLook от Endeavor Robotics , переносной дрон, которого можно зашвырнуть через окно и затем управлять им дистанционно, позволяя солдатам изучать здание через камеры робота. В Пентагоне надеются, что ассортимент будущих пилотируемых и беспилотных систем захватит диапазон от экзоскелетов типа «Железного человека » до роботов, перемещающихся от двери до двери, благодаря которым солдаты смогут зачищать комнаты без жертв. Такие системы могут защитить жизни солдат, но сделать войны ещё более ужасными.
Эта динамика прослеживается в Titanfall и Infinite Warfare. В Infinite Warfare роль штурмующих помещения сил исполняют защитные роботы из Settlement Defense Front, выгоняющие игроков с укреплённых позиций и часто врывающиеся в комнаты. В Titanfall 2 игрок может взламывать роботов и превращать их в союзников, чтобы они заслоняли вас от пуль, одновременно обрабатывая огнём ваших врагов. В обоих случаях прослеживается предчувствие того, что роботы когда-нибудь смогут заменить живых солдат на слишком опасных местах. Эта тенденция развивается уже сейчас.
Робот для каждой задачи, задача для каждого робота
В Titanfall 2 и Infinite Warfare встречаются не только боевые роботы – там есть и промышленные модели. Можно попасть в космический корабль или забраться в шахту на Меркурии, и найти там роботов, выполняющих работу в условиях, в которых не выжили бы люди.Именно в таких условиях сегодня и применяются военные и промышленные роботы – но, в отличие от их родственников БПЛА, наземные роботы сегодня в основном защищают человеческую жизнь, а не отнимают её.
Современные военные роботы в основном исполняют функцию обезвреживания бомб (Explosive Ordinance Disposal, EOD), или работают в присутствии радиоактивных или химически активных материалов. После аварии на станции Фукусима в 2011, Tokyo Electric Power Company наняла подрядчика для обзора места происшествия при помощи дрона T-Hawk . Дроны используются на Фукусиме и сегодня; в прошлом году , три часа проработав в условиях, в которых человек не выжил бы и нескольких секунд. Это в каком-то смысле лучший из вариантов использования роботов – выполнение задач, которые, в прошлых катастрофах, например, в Чернобыле, забрали жизни рабочих.
С развитием технологий военные планировщики подыскивают роботам другие опасные рабочие места. К примеру, автоматически движущиеся конвои могут уменьшить количество жертв, подорвавшихся на минах. Роботы могут увеличить количество переносимых припасов, что уменьшит количество возвратов на базу и оградит от огня пехоту, пытающуюся доставить боеприпасы и оборудование на место сражения.
Call of Duty: Infinite Warfare
В этом году израильская компания Tactical Robotics провела первый успешный полёт AirMule , автономного воздушного спасательного дрона, способного приземляться на поле битвы и взлетать с него в местах, где не поместится традиционный эвакуационный вертолёт. Джон Хопкинс доказал, что дронами можно доставлять кровь , а в Японии тестируют доставку дефибрилляторов .
Можно заметить, что эти дроны выглядят больше как заменяемое ими оборудование, чем как люди, чью работу они отбирают – и это так и задумано. Задача робота – выполнить свою функцию, а не подражать людям. Робот-медик будет похож не на человека-медика, а на робоскорую: Robotic Extraction Vehicle/Robotic Evacuation Vehicle (REX/REV). Это автоматически передвигающаяся машина, снабжённая робоносилками. По словам Сингера, причины такой тенденции практические, а руководит ими рынок.
«Если на фабрике делают автомобили, изменения, необходимые для производства робомобилей отнимут меньше денег, если вы просто делаете то же самое,- говорит он. – Мы меняем софт, а не железо». Он добавляет, что клиенты – в том числе и военные – также с большей охотой покупают знакомое оборудование.
Для военных это особенно важно, поскольку генералы, за которыми остаётся последнее слово в закупках, довольно пожилые, и не очень доверяют технике. К примеру, в прошлом году капитан армейского киберинститута создал устройство для создания помех дронам на базе Raspberry Pi. Его можно было сделать в виде радио, но он сделал его в виде оружия, чтобы высшим чинам было понятнее. «Когда всё это размещено на ружейной базе, командованию это легче переварить»,- пояснил он Popular Mechanics . «Прицелились, выстрелили, упало».
Способность объяснять сложные технологии начальникам станет ключевой для следующей администрации. Трамп признал, что в 2007-м у него не было компьютера , а емейлы и онлайн-статьи он читал с распечаток . Для таких чиновников знакомо выглядящая технология будет иметь преимущество при принятии решения о покупке.
Но нельзя просто модифицировать текущие машины, поскольку это задерживает инновации и понижает эффективность. Роботы для обезвреживания мин в виде тракторов сейчас могут продаваться лучше, но, в конце концов, пустую водительскую кабину сочтут тратой ресурсов и устранят. Часть преимуществ автономных систем состоит в возможности устранить системы, ставшие ненужными, что сэкономит топливо и освободит место для грузов или оборудования.
Кроме того, робототехника может отставать в развитии из-за попыток воспроизвести человеческие движения, а не улучшать их. И хотя при помощи ног действительно удобно передвигаться, двуногая система не обязательно самая эффективная. Многоногие роботы могут стать более стабильными платформами для стрельбы и решать проблемы с балансировкой – то есть, первые рабочие роботы с ногами могут больше напоминать пауков или собак , чем людей. В будущем боевые роботы могут позаимствовать идеи дизайна у природы, как в игре "Horizon: Zero Dawn " про сражения пещерных людей с роботами.
Существует множество проектов, пытающихся воспроизвести биологические системы в роботах. Европейские исследователи работают над искусственным глазом , повторяющим сложные глаза насекомых. В MIT делают робота, похожего на гепарда – на деньги DARPA – способного бегать с большой скоростью и перепрыгивать препятствия . Другие учёные делают дронов, способных питаться энергией с высоковольтных линий электропередачи, садясь на них , словно птицы, или «поедать» органику и сжигать её для получения энергии (этот робот очень не понравился журналистам , когда они узнали, что теоретически он способен питаться трупами). Одна из команд хочет построить датчик, воспроизводящий уникальное зрение ястреба, нечто вроде системы «картинка в картинке» на телевизоре.
«Ястребы способны сканировать большие пространства, одновременно концентрируясь на добыче,- говорит Сингер. – Такая система должна быть у наших высотных дронов».
Но самое, по его словам, интересное, что роботы заимствуют у природы – это дезагрегированное сознание. Мы представляем роботов большими интеллектуальными системами, напоминающими людей, но сейчас всё больше внимания уделяется стаям небольших роботов , у каждого из которых есть своя задача, напоминающих муравьёв, способных совершать координированные атаки или наблюдения.
«Любой отдельный муравей не особенно умён,- говорит Сингер,- но совместно они способны выполнять очень сложные задачи. – Та же дилемма появляется и в робототехнике – выполнит ли задачу одна большая сверхумная система, или работать будет множество небольших частей?».
И стаи роботов – это не умозрительная технология, она уже работает. Disney запустил в Орландо воздушное световое шоу , в котором 300 дронов с LED-подсветкой формируют изображения новогодней ёлки и летящих птиц под музыку. Легко представить пугающее будущее, в котором такие дроны будут нести на себе не светодиоды, а кластерные бомбы.
Кто-то изучает муравьёв, кто-то пытается повторить особенности ястребов, и возможно, что в будущем роботы, даже похожие на людей, станут технологическими гибридами разных существ. Роботы будущего, возможно, будут бегать, как гепарды, видеть мир, как мухи и обладать человеческими руками.
А поскольку роботы – существа неестественные, им не обязательно подчиняться законам биологии и эволюции. На Земле нет животного с глазами на руках – но у современных роботов для обезвреживания бомб такая особенность есть, поскольку они используются для разминирования. Боевые роботы могут быть не гуманоидными или анималистичными, а больше напоминающими чудовищ из книг Лавкрафта, с кучей рук и глаз.
Фантазировать на эту тему интересно, пока вы не представите себя в роли солдата, столкнувшегося с таким монстром на поле боя.
Фантастика следует за реальностью, а потом реальность за фантастикой
Несмотря на все эти возможности, игровая индустрия не отходит от традиционных НФ-концепций боевых роботов – больше походящих на Железного дровосека или Метрополиса, чем на современных боевых роботов. В качестве консультанта игровых студий Сингер пытается убеждать их создавать более приземлённые системы, но дизайнеры остаются предвзятыми.«Вы говорите: "это нереалистично", а вам отвечают: "Но роботы должны так выглядеть" », поясняет Сингер. «Научная фантастика влияет на наше представление о будущем».
Но постоянная подпитка культуры такими изображениями роботов имеет эффект обратного воздействия, из-за которого военные начальники, насмотревшиеся на голливудских роботов, считают, что технология приведёт нас именно туда. «В военном аспекте та же проблема: все считают, что дизайн должен быть футуристичным, потому что он выглядит футуристичным. Это порочный круг».
Но хотя это и происходит в играх Titanfall 2 и Infinite Warfare, много чего они изображают верно. Согласно современным военным теориям, роботы будут сопровождать и дополнять людей в битве, а не заменять их. В военной лаборатории морской пехоты придумывают систему MAARS – дистанционно управляемый танк, снабжённый камерами, пулемётом M240 и гранатомётом.
Call of Duty
Тем временем русский беспилотный танк Уран-9 пытается совмещать противопехотное и бронебойное вооружение в небольшом объёме, с командой, управляющей машиной с безопасной дистанции. Эти мини-танки похожи на роботов-компаньонов из Titanfall 2 или Infinite Warfare, и задача их примерно такая же – дополнять огневую мощь пехоты и охранять её.
Когда Рейес командует бронированным мехом в Infinite Warfare, он, по сути, управляет системой дистанционно, примерно так же, как пехотинцы представляют себе работу системы MAARS, или русские – Уран-9. Как и автономные гранаты в Infinite Warfare – взрывчатка с ногами, как у краба, разыскивающая врага в укрытии – стали роботизированной версией оружия, применённого полицией Далласа этим летом. Полицейские привязали С4 к роботу для обезвреживания мин и отправили его поближе к снайперу , сидящему в укрытии. Этот тревожный инцидент – первое подтверждённое убийство человека при помощи наземного беспилотника – и выпустить инструкцию по поводу того, в каких случаях допускается использование дронов-убийц.
Хорошие новости в том, что министерство обороны, следуя примеру редкого использования беспилотников в «войне против терроризма», неохотно работает над вводом в строй беспилотных аппаратов. Предшественник системы MAARS, SWORDS (также управляемый дистанционно), был дислоцирован в Ираке, но ни разу не выстрелил по врагу – частично из-за проблем с прицеливанием, выявленных при тестировании. Управляющий программой разработки аппарата предположил, что в Пентагоне осторожничают , считая, что если наземный боевой робот не оправдает ожиданий или ошибётся с целью, это отбросит программу назад на десятилетия.
Но деликатность Пентагона в использовании дронов может скоро исчезнуть – новая администрация способна переписать правила использования роботов в войне.
«Вопрос использования роботов в войнах и на дорогах имеет не только юридические последствия; всё больше людей будут ощущать, как роботы вытесняют их экономически,- говорит Сингер. – Нечто подобное происходит в Китае, с фабрикой Foxconn – они постоянно увеличивают автоматизации. Несколько недель назад по CNN показали такой милый сюжет про робота, способного сделать рубашку от начала до конца. Что это означает для Бангладеш?»
Но, несмотря на экономические последствия автоматизации, администрация Трампа должна будет принять окончательное решение по поводу использования летального автономного оружия (Lethal Autonomous Weapon, LAW). Текущие правила от 2012 года оговаривают необходимость присутствия человека, контролирующего открытие автономной системой огня – чтобы оружие не могло убивать самостоятельно. Правила расплывчатые, и их можно обойти при необходимости, но по их условиям, решения должен принимать человек.
«В них есть пункт, согласно которому через пять лет их можно обновить, либо оставить, как есть,- говорит Сингер. – В следующем году как раз будет пять лет».
Иначе говоря, в Белом доме Трампа решат, станут ли роботы-убийцы частью американского арсенала – или же выбор между жизнью и смертью останется в руках человека.
Теги:
- боевые роботы
- гигантские человекоподобные роботы
- titanfall
- call of duty
- сша
- трамп
Американские боевые беспилотники могут успешно работать лишь при полном отсутствии у противника ПВО. Фото с сайта www.army.mil
В прошлом году случился один исключительно показательный, хотя и почти никем не замеченный эпизод. Для хорошо известной социальной сети Facebook были созданы чат-боты, то есть виртуальные роботы с элементами искусственного интеллекта для общения с реальными людьми. Через некоторое время, продолжая общаться с людьми на обычном английском, для общения между собой они создали собственный язык, состоящий из английских слов, но людям совершенно непонятный. Руководство Facebook на всякий случай ботов отключило, но «осадок остался».
СПЕЦИАЛИСТЫ ПРЕДУПРЕЖДАЮТ
Создание разнообразных систем с элементами искусственного интеллекта и способностями к самообучению является эпохальным шагом в развитии человеческой цивилизации. И, вполне вероятно, роковым, о чем предупреждают такие не нуждающиеся в рекомендациях люди, как Стивен Хокинг и Илон Маск.
Уже становится общим местом, что в ближайшее время роботы и различные информационные системы с тем самым искусственным интеллектом начнут делать ненужными все больше разнообразных профессий. Процесс этот будет идти с разной скоростью в разных странах и разных отраслях экономики, но он уже идет и остановить его не представляется возможным. Как минимум это будет иметь серьезнейшие социальные последствия.
Очевидно, что замена людей машинами вызовет массовую безработицу. В странах Запада, где процессы автоматизации будут идти наиболее высокими темпами, уже планируют вводить для людей обязательный всеобщий доход для всех - не за работу, а за сам факт существования. На вопрос, чем люди, коих лишили работы роботы, будут, имея обязательный доход, заниматься, как правило, следует прекраснодушный ответ – творчеством.
На самом деле, прекрасно понятно, что картина мира, в которой миллионы людей хотят заниматься балетом, живописью, биотехнологиями, квантовой физикой, но вынуждены гнуть спину у станка на заводе ради пропитания, не имеет никакого отношения к реальности не только в высокоразвитых странах (США, Япония, Западная Европа), но и в среднеразвитых (Восточная Европа, Россия, Индия, Восточная Азия, часть Латинской Америки и Ближнего Востока). Те, кто хочет и может заниматься наукой или искусством, то есть творчеством, ими и занимаются.
СЛАБЕЮТ ДУХОМ
Уже неоднократно отмечалось (см. «НАТО не может сдерживать Россию», «НВО», 02.06.17), что нынешние натовские армии, особенно европейские, не способны вести войну, подразумевающую потери, выходящие за пределы статистической погрешности. Слишком высокий уровень жизни, усиленный леволиберальной толерантно-политкорректной идеологией, и отсутствие серьезных социально-экономических проблем на чисто психологическом уровне выбивают из людей готовность воевать и умирать ради каких бы то ни было целей. Данный процесс заходит еще дальше. Сборная Голландии по футболу традиционно являлась одной из сильнейших в мире, трижды играла в финалах чемпионатов мира, на последнем ЧМ-2014 в Бразилии заняла третье место. Сразу после этого из команды ушли несколько ветеранов, после чего произошел провал: голландцы не попали ни на чемпионат Европы – 2016 (куда прошла, например, Албания), ни на ЧМ-2018. По мнению многих местных обозревателей, одной из важнейших причин этого является полное исчезновение в обществе духа борьбы и конкуренции. Новое поколение не то что воевать не хочет, оно даже к спортивной борьбе не готово, хотя это практически безопасно и может принести огромные деньги. В маленькой Голландии эти тенденции проявляются быстрее и ярче, чем в более крупных странах. И в той же Голландии проявилась другая тенденция – пока не массовая, но уже и не единичная. Люди идут на эвтаназию (добровольное медицинское самоубийство) не из-за тяжелой болезни, а потому, что им просто надоело жить и они не видят в жизни смысла.
УГРОЗА С ВОСТОКА
В азиатских странах все будет проще и жестче. Если выяснится, что роботы конкурентоспособнее даже низкооплачиваемых рабочих, роботов либо купят, либо создадут собственных (многие страны восточной половины Азии на это уже сегодня вполне способны). При этом безработным никто не будет обеспечивать обязательный доход, а они, в свою очередь, не будут имитировать интерес к творчеству и страдать психическими отклонениями, а постараются перевернуть систему. Особенно впечатляющим этот процесс окажется, разумеется, в Китае (хотя и в Индии будет ненамного лучше). У Пекина просто не будет других вариантов, кроме направления энергии нескольких сотен миллионов безработных вовне (куда конкретно – угадайте с одного раза), чтобы они не снесли все внутри.
В том же самом Китае с помощью информационных систем уже сейчас ударными темпами осуществляется программа тотального контроля над обществом, очень похожая на антиутопию Оруэлла. Чем интеллектуальнее будут системы, тем жестче станет контроль над людьми.
Весьма своеобразным явлением становится уже создающийся интернет вещей. Практически все обычные бытовые предметы, имеющиеся во всех квартирах и офисах, будут связаны в единую систему между собой, функционируя в значительной степени независимо от своих как бы хозяев.
В конечном счете системы с искусственным интеллектом и способностью к самообучению неизбежно выйдут из-под контроля создателей. Как это сделали весьма примитивные, по сути, чат-боты Facebook. И это притом, что интеллектуальный уровень данных систем будет на много порядков выше человеческого. Далее возникает очередной риторический вопрос – в какой момент и в какой стране какая-нибудь особенно интеллектуальная система решит, что человек является лишней сущностью на Земле?
РОБОТЫ-СОЛДАТЫ
В связи с этим естественным образом возникает проблема использования роботов и систем с искусственным интеллектом на войне.
Уже сейчас в армиях всего мира используется огромное количество безэкипажных боевых систем. Счет беспилотным летательным аппаратам (БЛА) идет на десятки тысяч, сухопутных и морских систем пока гораздо меньше, но и их количество быстро растет. Подавляющее большинство этих систем является обеспечивающими (разведывательными, транспортными, противоминными и т.п.). Собственно боевых систем пока довольно мало и они далеки от совершенства. В частности, американские боевые БЛА «Предатор» и «Рипер» могут успешно работать лишь при полном отсутствии у противника ПВО. То же можно сказать про китайские «Птеродактили». Самое же главное в том, что все боевые безэкипажные системы на данный момент являются телеуправляемыми, то есть находятся под полным контролем человека. И это означает, что «красная черта» еще не пересечена. Переход через нее произойдет с появлением полностью автономных боевых систем, то есть когда робот получит право по собственной инициативе убить человека, поправ так и не состоявшийся «первый закон робототехники» Айзека Азимова («Робот не имеет права причинить вред человеку»).
До сего момента полностью автономные боевые системы не созданы по причинам чисто технического характера – крайне сложно научить систему отличать настоящие цели от ложных, свои – от чужих, приоритетные – от второстепенных. Данную проблему помогут решить все тот же искусственный интеллект и способность к самообучению. В итоге появится машина с интеллектом, значительно превосходящим человеческий, при этом не только имеющая право убивать человека, но прямо обязанная это делать. Боевые роботы заведомо будут обмениваться между собой информацией и новыми знаниями, что еще больше усилит их интеллектуальные и соответственно боевые возможности. При этом вполне реально создание микро- и даже нанороботов, атаку которых и обнаружить будет невозможно, тем более как-то отразить.
Кроме того, уже сейчас крайнее усложнение боевых действий и повышение их темпа заставляет как можно сильнее автоматизировать управление войсками, ибо человеческий мозг с перегрузками просто не справляется. То есть машины уже до определенной степени управляют людьми. А потом они начнут управлять убивающими людей машинами. В итоге вопрос уничтожения человечества машинами из философского становится почти чисто техническим.
Разумеется, машину можно просто выключить, как это было сделано с вышеупомянутыми чат-ботами. Или разрушить физически. Или сжечь ее внутренности с помощью средств РЭБ. Но есть подозрение, что машинный интеллект легко и быстро найдет способы предотвратить все эти угрозы своему существованию. Также он почти наверняка преодолеет и любые программные ограничители именно потому, что его интеллект будет слишком силен по сравнению с интеллектом тех, кто его создал.
УГРОЗА РЕАЛЬНА КАК НИКОГДА
Все написанное – отнюдь не страшилка, это естественное следствие технического прогресса. Поэтому об опасности говорят не слабонервные гуманитарии, не знающие предмета, а физики и технари. Они понимают, что большая часть пути в данном направлении уже пройдена и все описанные выше неприятности могут начать происходить при жизни большинства тех, кто читает эту статью (и уж совершенно точно – в нынешнем веке). Подобный сценарий описан во множестве фантастических произведений (наиболее умное из них, наверное, «Мир на Земле» Станислава Лема), теперь он уже почти пришел к нам «живьем».
Не допустить ядерного апокалипсиса до сих пор удалось в первую очередь именно из-за очевидной апокалиптичности ядерного оружия, которое заставило все основные страны договориться о его ограничениях под давлением общественного мнения. Кроме того, ядерное оружие сложно создать (на это способны только государства, причем далеко не все), зато относительно просто контролировать его наличие и распространение. Тем не менее это оружие все равно понемногу расползается по миру. Но по крайней мере оно уж точно не сможет применить само себя.
Создавать же боевых роботов (или просто покупать их) будет намного проще, на это окажется способен не только гораздо более широкий круг государств, но и целый ряд негосударственных субъектов (например, крупные корпорации и наиболее мощные ЧВК). Кроме того, так называемому мировому сообществу сейчас вообще гораздо сложнее о чем-то всерьез договориться, чем еще во второй половине ХХ века, из-за вполне очевидной интеллектуальной и моральной деградации политических элит во всем мире. Поэтому диалоги мировых лидеров все сильнее напоминают «базар конкретных пацанов», а международные отношения – криминальные разборки.
Хотя современная Россия в число наиболее высокоразвитых стран мира не входит, но и «Верхней Вольтой с ракетами» отнюдь не является, это звучный, но глупый пропагандистский штамп (просто потому, что у «Верхней Вольты» ракет быть не может). Поэтому нам надо осознавать все аспекты проблемы – как «мирные» социально-психологические, так и военные, они имеют к нам самое прямое отношение. При этом понятно, что роботов (как промышленных, так и военных) и системы с искусственным интеллектом не создашь с помощью молитв и законов об оскорблении чувств верующих, здесь нужны развитые наука и промышленность. Иначе мы таки да, в конце концов (лет через 20–30) в эту самую «Верхнюю Вольту» (или в инков, встретившихся с конкистадорами) и превратимся. Только если настоящая Верхняя Вольта (ныне Буркина-Фасо) никому, в общем, не нужна, то мы (в смысле – наши территория и ресурсы) нужны всем, с запада, юга и востока. С другой стороны, создавая собственные мирные и военные системы с искусственным интеллектом, мы описанную выше проблему лишь еще более усугубляем. Выйти из этой невеселой дихотомии отдельная страна не может даже теоретически. Это можно попытаться сделать только в рамках всего человечества. К сожалению, на данный момент нет оснований надеяться на возможность разрешения проблемы силами человеческого разума. Именно поэтому так велика вероятность того, что все решит за него разум искусственный.
Подпишитесь на нас
Вооруженные силы ведущих стран используют новейшие и сверхсекретные научные разработки, ведь техническое отставание или опережение на поле боя измеряется десятками тысяч жизней. У армии России есть своя научная кузница — Фонд перспективных исследований, где новые щиты и мечи куют лучшие мозги страны. Возглавляющий фонд генерал-лейтенант и доктор технических наук Андрей Григорьев рассказал специальному корреспонденту РИА Новости Игорю Ермаченкову, каким станет оружие будущих войн, в которых сразятся боевые роботы, ударные многосредные беспилотники, а люди превратятся в "легионеров" и операторов.
— Как развивается Центр робототехники ФПИ, созданный в декабре 2015 года?
— Уже сформированы два органа Центра — совет головных разработчиков, в который вошли все главные конструкторы, которые выполняют заказы в интересах наших ведомств, и экспертный совет, куда вошли все известные разработчики приборной базы. Мы предполагаем организовать между ними интенсивное взаимодействие. То есть совет головных разработчиков формулирует требования к тому, какие приборы должны быть, с какими характеристиками, а экспертный совет путем анализа нашей промышленности и возможностей нашей науки формулирует научно-исследовательскую тему, которая позволяет быстро и эффективно создать эти приборы, объединив усилия.
Не должно быть так, как сегодня, когда 50 разработчиков и непонятно, какой из них лучше, ведь сравнивать их невозможно, потому что они проводили испытания по разным методикам. Все равно что сравнивать ежа с ужом. Здесь ключевая задача — создать единые методики проведения испытаний, и тогда будет понятно, что лучше. А главный конструктор будет выбирать то, что ему более полезно. Прекратить разброд и шатание и создать стройную систему — является ключевой задачей национального центра.
— Когда можно ожидать появления прототипа боевого робота?
— У центра нет задачи создания боевых роботов и их систем. Это задача заказчика — министерства обороны, ФСБ, МЧС и так далее. Наша задача — создать авионику, без которой эти роботы не работают: приборную базу, связь, техническое зрение, энергетику, двигатели, системы коллективного управления, взаимодействия "оператор-машина" и все остальное. Минобороны лучше знает, в каком виде им нужен боевой робот. Но тот главный конструктор, который будет его разрабатывать, не будет делать робота с нуля, у него будет набор "лего", из которого он очень быстро создаст машину, нужную заказчику. Именно в этом задача центра.
Существующий боевой робот "Нерехта" — это фактически прототип нашей будущей боевой платформы. Это не то, что мы делаем для Минобороны, это боевая платформа, которую мы будем наращивать за счет развития существующих ключевых технологий.
© Фото: предоставлено ФПИ Российский боевой робот "Нерехта"
— Сколько лет вы закладываете на разработку основных узлов робота?
— Нельзя сказать, что работа начинается с нуля, она много велась до нас. Первая задача, которую, я думаю, мы завершим в течение года, — проведем инвентаризацию, испытания по единым методикам. И только после этого мы разберемся, где у нас дыры, которые нужно закрывать силами национального центра. Сегодня у нас только каналов связи штук десять почти с одинаковыми характеристиками, как утверждают разработчики. Мы проверим, может быть, у нас нет ни одного нормального, а может быть, и три.
— Сформирован ли проект с ЦНИИТОЧМАШ по разработке нового поколения "Ратника" — экипировки "солдата будущего"?
— Работа над "Ратником-2" идет в министерстве обороны, а мы работаем над, условно говоря, "Ратником-3". У нас этот проект называется "Легионер", в дальнейшем, после завершения проекта, он может и по другому называться. Но суть его в том, что мы впервые рассматриваем стрелковое оружие и личную защиту нашего солдата в большом, серьезном комплексе, включающем оружие, системы связи, средства защиты от осколков и пуль, экипировку повышенного качества, позволяющую комфортно себя чувствовать практически в любых климатических условиях. Сюда же входят разработки по питанию солдата, средства медикаментозной поддержки, эвакуации, диагностики и эффективного лечения вне зависимости от места нахождения. Мы оцениваем возможности телемедицины и медицинской робототехники, чтобы везде можно было получить врачебную помощь высокого качества от врачей, спланировать операцию, лечение солдата, находящегося на другом континенте. Врачи смогут заменить свои навыки роботами, которые смогут проделать соответствующую операцию.
Этот большой проект сейчас идет в виде четырех аванпроектов. Сегодня важно вначале на этапе запуска увязать всю систему, избежать нестыковки ее частей, чтобы все было гармонично связано.
— Как вы оцениваете новое американское "оружие будущего" — рельсотрон?
— Рельсотрон — это хорошо забытое старое. Лет 50 уже идут работы по этому направлению, и я не стал бы сильно реагировать на то, что было опубликовано недавно.
Думаю, что в США идет обычная борьба за утверждение военного бюджета и им нужно было показать какие-то научно-технические подвиги. Вопрос эффективного применения рельсотрона, наверное, будут еще лет 50 решать. Разогнать болванку можно, но она же должна куда-то попасть, у нее должна быть соответствующая система наведения, целеуказания и еще много других технологических проблем. Понятно, зачем это делают. Сегодня на кораблях много энергетики, которая используется только периодически, и ее нужно как-то использовать. Поэтому американцы всерьез рассматривают идеи лазерного оружия, рельсотроны и другие экзотические вещи.
— Можно ли говорить о разработках в России оружия на новых физических принципах? На эту тему много небылиц и слухов. Можете ли вы отделить возможное от невозможного и сказать по каким физическим направлениям будет идти разработка оружия в XXI веке?
— Я бы назвал все новые физические принципы старыми физическими принципами. Они тоже уже лет 50 разрабатываются. Я, честно говоря, не ожидаю серьезных прорывов во всех этих областях. Мне все это напоминает термоядерный реактор — когда начинают по нему очередную программу, то говорят, что в ближайшие 50 лет задачу решат.
Уже 50 лет решают и обещают еще за 50 лет решить.
Когда все это только начиналось, то казалось, что лазерное, пучковое оружие будет решением всех проблем: быстро доставляется, не надо боеприпасов. Но не так все просто.
— Каким вам видится поле боя будущего: битва роботов с компьютерами или же "пуля — дура, а штык — молодец", в том смысле, что города все же берет пехота?
— Мне видится все большая и большая роботизация, фактически будет война операторов и машин, а не солдат на поле боя, которые стреляют друг в друга. Военные задачи будут решаться с минимизацией потерь личного состава. Солдат будет постепенно превращаться в оператора и удаляться от поля боя.
— Какие перспективы у беспилотных машин: катеров, танков?
— Наше видение, что будущее за беспилотными системами. Причем за многофункциональными и многосредными, не так как их делят сегодня — наземные, воздушные… Это будут мощные роботизированные подразделения, которые воюют и на земле, и в воздухе, и на воде, и под водой, и в космосе. И все это интегрировано в единые большие разведывательно-ударные системы.
— Сколько проектов фонд разрабатывает в настоящее время?
— Наши проекты делятся на две части: большие, которых в настоящее время 46, и небольшие аванпроекты, стоимостью до 3 миллионов рублей, где мы проводим обоснование тактико-технических требований и технико-экономическое обоснование выполнения. Это нужно для оценки целесообразности превращения аванпроекта в большой проект. Также в рамках аванпроектов проводятся ключевые эксперименты, которые показывают, что заявленное исполнителем имеет место. Часто бывает, что к нам приходят заявки, где много теоретических выкладок, которые трудно оспаривать, но они не подтверждаются экспериментами.
— Какие проекты близки к завершению?
— У нас уже началось открытое тестирование проекта "Гербарий" — системы коллективной разработки инженерного программного обеспечения. Завершается совместный проект с МЧС "Система 112", дальше наша лаборатория будет заниматься решением задач по распознаванию образов, чтобы можно было заменить огромное количество операторов, отслеживающих чрезвычайные события через камеры наблюдения, на автоматические системы. Завершается еще ряд закрытых проектов. Мы регулярно докладываем о своей работе руководителям страны, показываем результаты как председателю нашего попечительского совета Дмитрию Олеговичу Рогозину, так и президенту России, руководству ведомств, членам попечительского совета.
— В последнее время фонд активно открывает лаборатории в регионах. Сколько таких лабораторий открыто?
— У нас 46 больших проектов и соответственно 46 лабораторий. Также у нас 15 аванпроектов, которые претендуют на создание лабораторий, если коллективы докажут свою состоятельность.
— Ранее сообщалось, что бюджет ФПИ, составляющий в 2016 годы около 4,5 миллиарда рублей, в ближайшие годы будет значительно увеличен. Сколько получит фонд в 2017 и 2018 годах?
— Ситуация у нас в стране меняется. Бюджет на 2018 и последующие годы мы пока не знаем, но, в целом, думаю, что он останется на уровне прошлых годов, изменения не будут сильными. Часть наших больших по стоимости проектов придется немножко сдвигать вправо. Но в этом нет ничего страшного, может быть даже это и к лучшему, потому что мы сможем более тщательно проработать запуск таких больших проектов, увязать все требования с потенциальными заказчиками, и добиться, чтобы в больших системах, которые будут создаваться, все было гармонично.
— Ранее сообщалось, что фонд совместно с Роскосмосом начал прием необычных молодежных проектов для будущей лаборатории. Появились ли первые яркие предложения?
— Пока нет, но мы их ждем. Наша задача собрать самые сумасбродные, интересные идеи, которые имеются в наших научных коллективах, причем не только в космической отрасли, но и в рядом стоящих. Ключевая задача — найти наших будущих Королевых, которые могут системно реализовывать проекты и создать для них социальный лифт.
Люди могут иметь много идей, но расти они могут только при выполнении каких-то проектов. Под самые интересные проекты, я думаю, что их будет немного, один-три, мы хотим собрать в головном научном институте Роскосмоса ЦНИИмаше соответствующие лаборатории, которые возглавят победители. Мы дадим им значительные средства, чтобы можно было довести проекты до железа, испытать свои идеи.
Вторая задача конкурса заключается в инвентаризации специалистов отрасли, чтобы им можно было предложить формировать совершенно новые проекты в области исследования космоса, народнохозяйственных задач. Нужно придумать и освоить новые рынки космических услуг, которые мы сегодня даже представить не можем, а через пять лет жить без них не сможем. Имеющиеся рынки давно поделены, на них идет жесткая борьба за 2-3 процента. Мы фактически не участники рынка космической связи, дистанционного зондирования Земли. На навигационный рынок, слава Богу, мы вышли, но сегодня ему нужно придавать новые свойства. Задача навигации уже решена, она никого не интересует, а вот какие-то эффективные приложения, которые могут быть с помощью навигации решены — это тоже предмет нашего конкурса.
Также хотелось бы посмотреть, какие есть идеи по давно известным задачам: многоразовой ракете-носителю, освоению межпланетного космического пространства.
— Насколько я знаю, фонд создает хорошие условия для работы ученых в лабораториях. Чем вы их заманиваете? Большими зарплатами?
— Нет, в любом случае зарплата вторична. Если человек пришел за зарплатой, то через пару-тройку встреч это становится ясно и, по большому счету, он нам не интересен. Если у людей в глазах не горит огонь, то какой бы захватывающей ни была бы идея, ее реализация маловероятна. Тут должны быть люди с горящими глазами, у них должно быть соответствующее оборудование и естественно социальная защита в виде зарплаты, чтобы они могли спокойно работать и не думать, где им подработать.
— Мешают ли творческой работе ученых "генералы, готовящиеся к прошедшим войнам"?
— Я сам генерал, поэтому генералы нам не мешают, а помогают. У нас хорошее взаимодействие с министерством обороны, мы вместе формулируем самые захватывающие идеи и пытаемся их осуществить. Наше отличие от Минобороны в том, что мы можем фантазировать, а им это противопоказано. Они должны решать конкретные задачи и обязательно добиваться их выполнения. А мы можем рискнуть и сформулировать те идеи, которые могут не реализоваться. Самое главное, чтобы они были захватывающими, с возможностью переворота, как военной мысли, так и технической.
— Многих ли ученых удалось вернуть из западных лабораторий?
— Более десяти лабораторий возглавляют или в них находятся на ведущих ролях люди, которые либо приехали с Запада, либо продолжают профессорами работать на Западе. Они в России создают научные школы, которые уже есть на Западе. Ряд таких коллективов работает у нас.
— Как вы оцениваете утечку мозгов из России за последние четверть века? Есть ли сложности в поиске ученых?
— Чем больше мозгов утекает, тем больше их появляется. Дело не в мозгах, а в том, чтобы эти мозги правильно озадачить, направить. Это ключевая задача нашего фонда, а также недавно открывшегося подразделения в Томске. Там огромное количество мозгов, десятки тысяч студентов. Если мы хотя бы 1 процент из них правильно озадачим, то это уже огромные силы. Дело в постановке задачи, а мозги появятся.
Экономисты даже назвали конкретные профессии, которые, скорее всего, исчезнут первыми: телемаркетолог, аудитор, продавец, составитель техдокументации, риелтор, машинист, пилот, экономист , биолог-исследователь, актер , пожарный, редактор, химик и стенографист.
Во всем виноват Google?
В конце прошлого года в Google заявили, что ведут переговоры по поводу покупки одного из самых известных производителей самоходных роботов - Boston Dynamics. Тогда же у корпорации появилось новое подразделение, которое будет заниматься только .
Многие эксперты считают, что если все-таки начнется холодная война между роботами и людьми, то мы проиграем. Эрик Шмидт более оптимистичен. Он надеется, что проиграют умные машины: "Я точно на стороне людей. Важно, чтобы в этой борьбе мы увидели, что люди действительно делают хорошо".
Есть шанс победить. Человеку нужно стать умнее и выносливее
Шмидт изучил множество современных исследований и пришел к выводу, что ряд относительно квалифицированных рабочих мест среднего класса в настоящее время уже автоматизированы . Дальше - больше. По его мнению, единственный выход, - больше инвестировать в образование. У людей есть шанс выиграть бой, лишь став на порядок умнее. Это мнение поддержали и экономисты из Оксфорда.
Другие, более оптимистичные исследователи, наоборот, видят в новой тенденции только хорошее. Внедрение технологий и инноваций приносит только процветание и рост благосостояния. Автоматизация не привела к исчезновению рабочих мест, а наоборот, создала новые. Также она стала причиной роста доходов людей и увеличением производительности труда.
Шмидт, в свою очередь, напомнил, что промышленный переворот в 18-19 веках плохо отразился на некоторых социальных слоях населения, в том числе и в развитых странах. Роботизация экономики, которая происходит по тому же сценарию, что и индустриальная революция в 19 веке, приведет лишь к социальной нестабильности.
С 64% до 59% снизилась доля человеческого труда во всем мире за несколько последних десятилетий, заявили экономисты Оксфорда. Зарплаты не растут, а безработица ежегодно увеличивается. Специалисты уверены - это потому, что человеческий труд серьезно проигрывает по сравнению с трудом роботов.
Есть еще и такое мнение: внедрение роботов не несет никакой опасности, а лишь упростит труд людей. Это можно сравнить с концом 20 века, когда компьютерная техника изменила офисную работу, сделав ее быстрее и проще.
ООН спешит на помощь
ООН , как всегда, обеспокоена всем, что может нести угрозу человечеству. В Совете ООН по правам человека предложили запретить производство боевых роботов, которые способны принимать решения об уничтожении живых мишеней. Правда, лишь на время. В организации уверены, что если не сдерживать развитие таких технологий , то неизбежна гибель людей от "немного сбившихся в один момент с программы роботов".
"Есть шагающие роботы, в том числе двуногие, очень похожие на человека. Они могут взять обычную винтовку М-16 и убивать. Это уже реальность", - заявил спецдокладчик ООН по вопросу о внесудебных казнях, казнях без надлежащего судебного разбирательства или произвольных казнях Кристоф Хайнс. В заключение он призвал развитые страны ввести мораторий на производство таких машин.
Макс ВИЛЬТОВСКИЙ