Здравствуйте, в этой статье мы постараемся ответить на вопрос: «Роботы-убийцы могут изменить облик будущих войн». Если у Вас нет времени на чтение или статья не полностью решает Вашу проблему, можете получить онлайн консультацию квалифицированного юриста в форме ниже.
Эти роботы не несут вооружения, их целью является сбор разведывательной информации. Однако в профессиональной литературе активно обсуждается возможность создания вооруженных роботов, которые будут вести себя подобно саранче или другим насекомым.
Они должны объединяться в огромный рой при появлении противника и набрасываться на него, подобно тому, как муравьи атакуют свою жертву. Каждое такое устройство должно обладать небольшой боеголовкой или использовать кинетическую энергию удара.
Пит Сингер, специалист по будущим военным технологиям в Институте Брукингса в Вашингтоне, считает, что появление на поле боя боевых роботов поднимает фундаментальные вопросы.
«Время от времени в истории боевой техники наступает момент, когда появляется нечто, что приводит к полному изменению ситуации, — говорит он. — Например, так было с порохом, так было с пулеметом, атомной бомбой, компьютером. И боевые роботы могут стать такой революционной технологией».
«Это означает, что с их появлением изменится все — начиная с тактики, применяемой на поле боя, до организации войск, не говоря уже о вопросах политики, этики и права», — считает эксперт.
Дешево и не всегда эффективно?
Последний всплеск медийного интереса к боевым роботам был связан с военным конфликтом в Нагорном Карабахе, где азербайджанская армия успешно применила разведывательные и ударные беспилотники израильского, турецкого и китайского производства. Маленькие и относительно недорогие «Харопы» и «Байрактары» (использовались в том числе как дроны-камикадзе) лихо расправлялись с наземными целями – уничтожали ракетные установки, зенитные комплексы. Казалось бы, вот она, эра дронов – не сегодня завтра эти умные машинки похоронят традиционные вооружения!
Но не надо спешить с выводами. Как пояснил «Профилю» военный эксперт, главный редактор журнала «Арсенал Отечества» Виктор Мураховский, подавляющее большинство современных робототехнических комплексов (РТК), действующих в воздухе, на земле и на море, являются дистанционно управляемыми. Строго говоря, это не совсем роботы, ведь их пилотирует человек, пусть и на расстоянии. Эффективность подобных систем ограничена «необходимостью свободного доступа к электромагнитному пространству», или, по-простому, к каналу связи.
Другая проблема – как автономные РТК смогут выполнять задачи в различных средах (воздух, земля, вода) и где они будут наиболее эффективны. Старший научный сотрудник Центра международной безопасности ИМЭМО РАН Константин Богданов полагает, что идеальная среда для умного оружия – это море.
«Нас ждет совершенно бурное развитие подводных дронов, причем как разведывательных, так и ударных, – говорит эксперт. – Это станет перспективным направлением на ближайшие 30–40 лет». Флотилии беспилотных подводных аппаратов смогут обеспечивать безопасность корабельных соединений, занимаясь обнаружением подводных лодок, мин и иных неприятностей. Часть датчиков уже сейчас выносится на дистанционно управляемые аппараты, а с развитием систем ИИ и прописыванием протокольных задач управляемые носители будут заменяться автономными.
Почему море? По словам Богданова, для морской стихии прописать необходимые алгоритмы относительно просто: «Что в этом море водится? Киты и корабли противника». Воздушная среда гораздо сложнее, ударному БПЛА, например, придется самостоятельно выделять цели на сложной «подстилающей поверхности» (рельеф, жилая застройка) с огромным количеством разнообразных объектов. Причем одни из них нужно поразить, другие нельзя поражать ни в коем случае.
«Если «затачивать» машину на конкретный набор задач, она будет выполнять его с большей эффективностью, чем человек, – поясняет Константин Богданов. – Но в комбинированных сложных боях с большим количеством разноплановой информации и объектов она может выкинуть все что угодно». Впрочем, он полагает, что технически эта проблема решаема, в том числе с применением ИИ для обработки данных. Постепенно машины научатся распознавать образы и смогут идентифицировать цели не хуже, а возможно, и лучше, чем человек. Однако задача эта сложная, а потому дистанционно пилотируемые ударные аппараты, вероятно, будут действовать еще долго.
Как смартфоны правят миром
– Звучит достаточно сложно.
– На самом деле каждого из нас окружает облако бытового ИИ, причём уже довольно давно. Например, вы просыпаетесь от звонка будильника вашего смартфона – и это сегодня ваш первый контакт с ИИ. Мобильные телефоны просто напичканы программами ИИ: там и распознаватель лица, и опция исправления фотографий, и навигатор. Вы выходите из квартиры и едете на лифте – и лифтом тоже управляет программа ИИ. Она получает данные, на каких этажах нажаты кнопки, обрабатывает их и принимает решение – куда какой лифт вперёд послать. Вы выходите на улицу – мимо едут такси, которыми в городе управляют системы ИИ, водители уже давно стали приложением к программе, механически крутящими руль. Навигатор зависает, и водитель вообще не понимает, куда ехать.
Уже следующее поколение кофемашин будет с ИИ, вы будете управлять ею голосом – говорить, какой кофе сварить.
– И пылесосу, и телевизору мы сможем, как в кино, давать команды. Какие ещё тренды в развитии ИИ? Что он будет скоро уметь?
Насколько нова технология?
Такая технология существовала в своей базовой форме уже несколько десятилетий. В 1980-х и 1990-х годах американские военные стратеги экспериментировали с ракетами «Томагавк» и «Гарпун», которые могли идентифицировать цели; обе используются по сей день.
Самое современное автоматизированное оружие США сосредоточено на защитных применениях. Когда крупным американским базам в Ираке в 2003 году угрожали ракетные и минометные атаки, Армия разработала систему C-RAM, которая может идентифицировать приближающуюся воздушную угрозу, предупредить об этом человека-оператора и – после нажатия оператором кнопки – отследить и уничтожить ее.
Это оружие было основано на морской артиллерийской системе Phalanx, которая считается последней линией обороны от противокорабельных ракет. «Когда ракет очень много, человек не может сказать “Ладно, сначала разберись с этой”», – утверждает Роберт Уорк, старший научный сотрудник Центра новой американской безопасности в Вашингтоне. Поэтому стратеги разработали Phalanx и Aegis Combat System, которые при помощи датчиков на кораблях и самолетах определяют воздушные угрозы и автоматически атакуют их по указанию оператора. «Человек в какой-то момент нажимает кнопку, и машина принимает все решения», – продолжает Уорк.
Робот EveR-4 (KITECH), представитель целой серии андроидов женского рода, был создан учеными Южно-корейского института индустриальных технологий. Имя робот, на создание которого пошло 321 000 долларов, получил в честь библейской женщины, Евы. Андроид EveR-1 был способен имитировать человеческие эмоции счастья, печали, злости, с помощью специальной гидролитической системы, которая управляло его движениями. Внешнее покрытие роботов всей серии выполнено из силикона и на ощупь напоминает кожу человека. Андроид EveR-3 был первым роботом, способным петь, что и было продемонстрировано на ежегодной ярмарке в Ганновере в 2009 году. Он был разработан с учетом всех достоинств его предшественников, кроме того, создателям удалось достичь плавности движений, его оснастили ногами, искусственным языком и механическими голосовыми связками. Робот последнего поколения был представлен в 2011 году на выставке RoboWorld 2011.
NAO – это автономный и запрограммированный робот, разработанный французской инженерной компанией, Aldebaran Robotics. Робот высотой 60 см и весом более 4 кг оснащен операционной системой INTEL Atom. Он способен распознавать выражение лица и голос, а также плавно двигаться. Робот разговаривает и развивается, познавая новые эмоции. В 70 странах мира его используют в системе образования, он помогает при обучении программированию, математике, информатике. Его можно научить будить по утрам, следить за порядком в доме, обучать детей мультипликации.
182-сантиметровый двуногий гуманоид разработан компанией DARPA на основе модели PETMAN с четырьмя гидравлическими приводами конечностей. Корпус выполнен из алюминия и титана. Робот может выполнять много функций, включая поисково-спасательные, но внешне он не настолько похож на человека, как PETMAN. Руки робота могут выполнять разные манипуляции, он также оснащен двумя видеосистемами – стереокамера и лазерный дальномер. Последняя модель может держать равновесие, стоя на одной ноге после попадания снаряда, открывать дверь, управлять оборудованием, закрывать краны. Во время тестирования в 2013 году робот продемонстрировал способность управлять автомобилем, преодолевать преграды, подыматься по лестнице, расчищать завалы, разрезать гипсокартон с помощью электроинструментов.
Поздним весенним вечером в 1992 г. на Центральном вокзале пожилой человек в синей ветровке с надписью New York Times ожидал на платформе поезд в округ Вестчестер. Я работал в Times некоторое время, и меня заинтересовала призрачная фигура. «Вы сотрудник газеты?» — спросил я.
Как оказалось, много лет назад он был наборщиком в Times. В 1973 г. его профсоюз подписал соглашение о постепенном сокращении рабочих мест по мере внедрения компанией компьютеризированных систем печати в обмен на гарантию занятости до выхода на пенсию. Хотя этот человек не работал уже больше десятилетия, он по-прежнему приезжал в типографию на Таймс-сквер и проводил вечера с оставшимися печатниками.
Печатники и полиграфисты были высококвалифицированными работниками, которые особенно пострадали от появления в 1970-е мини-компьютеров и резкого падения их стоимости по мере перехода с транзисторов на интегральные схемы. Сегодня судьба печатника служит ярким примером того, что происходит с живым трудом под влиянием новой волны автоматизации.
Машины уже выстраивают нашу повседневность
Станут ли эти интеллектуальные аватары нашими слугами, помощниками и коллегами или одновременно одним, другим и третьим? Или нас ждет более мрачный сценарий, при котором они превратятся в наших хозяев? Подход к роботам и искусственному интеллекту с точки зрения социальных взаимоотношений может в первый момент показаться абсурдным. Тем не менее, с учетом нашей склонности к очеловечиванию машин, мы наверняка будем вступать с ними в социальные отношения по мере повышения их автономности.
Это подводит нас к еще одной большой проблеме: риску уступить контроль над принятием повседневных решений все более сложным алгоритмам. Не так давно ветеран венчурного бизнеса Кремниевой долины Рэнди Комисар был на конференции и слушал выступление, описывавшее конкурента Siri — сервис Google Now. «Похоже, людям до смерти хочется, чтобы какой-то интеллект подсказывал им, что надо делать, — сказал он. — Что они должны есть, с кем должны встречаться, на какие вечеринки должны ходить».
На его взгляд, для сегодняшнего молодого поколения мир перевернулся вверх ногами. Вместо того чтобы использовать компьютеры для получения свободы и возможности мыслить масштабно, для установления близких отношений, для реализации своей индивидуальности и творческого потенциала, молодые люди настолько жаждут указаний, что готовы передать эту ответственность искусственному интеллекту в облаке.
Противоречие, присущее идеологиям искусственного интеллекта и усиления интеллекта, впервые поразило меня, когда я понял, что Энгельбарт и Маккарти занимались созданием компьютерных технологий с совершенно разными целями. В их подходах была и двойственность, и парадоксальность. И это понятно — если вы расширяете возможности человека с помощью компьютерной технологии, то неизбежно вытесняете людей. В то же время выбор той или иной стороны в споре — это вопрос этики, хотя его и нельзя рассматривать как выбор между черным и белым.
Конечно, у этих технологий есть пределы. Американский исследователь ИИ Терри Виноград говорит, что цели применения компьютерных технологий — расширение возможностей людей или их замена — зависят в большей мере от характера экономической системы, а не от свойств самих технологий. В капиталистической экономике, если технологии искусственного интеллекта смогут заменять белые воротнички и работников интеллектуального труда, то они неизбежно будут использоваться именно таким образом. Именно в этом состоит урок для так по-разному подходящих к системам будущего исследователей искусственного интеллекта, робототехников и программистов. Понятно, что предупреждение Билла Джоя («будущее не нуждается в нас») — это только один из возможных исходов. Не менее очевидно, что преобразованный этими технологиями мир не должен обернуться катастрофой.
На то, что началось для меня как парадокс, есть простой ответ. Устранение противоречия между искусственным интеллектом и усилением интеллекта зависит от решений людей — инженеров и ученых, которые осознанно выбрали антропоцентрический подход.
Это проблема нас как людей и мира, который мы создаем. Это не проблема машин.
С самого зарождения массовой автоматизации человечество противилось засилью машин в повседневной жизни – нередко разгорались самые настоящие войны. Болезненный для многих прогресс пытались насильственным образом затормозить, но мир развивался и требовал изменений. Спустя некоторое время все же удалось прийти к некому компромиссу и взаимопониманию в отношениях «человек-робот».
Общество, наконец, осознало все «прелести» машин, которые были готовы выполнять утомительную, монотонную работу, причем быстро и без ущерба качеству. Постепенно человек начал внедрять машинный труд во всевозможные сферы жизнедеятельности, упрощая себе жизнь. И если говорить начистоту, люди уже разучились жить без машин, которые выполняют повседневную работу — строительная техника, разнообразные бытовые приборы, медицинские аппараты, эскалаторы, и многое другое.
Должностные лица американских обороны считают , что автономное оружие необходимо Соединенным Штатам, чтобы сохранить свое военное преимущество перед Китаем и Россией, которые также вкладывают деньги в аналогичные исследования. В феврале 2018 года Дональд Трамп потребовал выделить $686 млрд на оборону страны в следующем финансовом году. Эти расходы всегда были довольно высокими и снижались разве что при предыдущем президенте Бараке Обаме. Однако Трамп — неоригинально — аргументировал необходимость их увеличения технологической конкуренцией с Россией и Китаем. В 2016 году в бюджете Пентагона было заложено $18 млрд на разработку автономного оружия в течение трех лет. Это немного, но тут нужно учесть один очень важный фактор.
Большинство разработок в области ИИ в США ведутся коммерческими компаниями, поэтому они оказываются в широком доступе и могут быть проданы в коммерческих целях другим странам. У Пентагона нет монополии на передовые технологии машинного обучения. Американская оборонная промышленность больше не ведет собственные исследования так, как это делалось во время «холодной войны», а использует наработки стартапов из Кремниевой долины, а также Европы и Азии. В то же время в России и Китае такие исследования находятся под строгим контролем оборонных ведомств, что, с одной стороны, ограничивает приток новых идей и развитие технологий, но, с другой, гарантирует госфинансирование и защиту.
По оценке экспертов The New York Times, военные расходы на автономные военные машины и беспилотные летательные аппараты превысят $120 млрд в течение следующего десятилетия. Это означает, что дискуссия в конечном счете сводится не к тому, стоит ли создавать автономное оружие, а к тому, какую степень независимости ему дать.
Сегодня полностью автономного оружия не существует, но заместитель председателя Объединенного комитета начальников штабов генерал Пол Дж. Сельва из ВВС еще в 2016 году заявил , что через 10 лет Соединенные Штаты получат технологию создания такого оружия, которое сможет самостоятельно решить, кого и когда убивать. И пока страны спорят о том, стоит ли ограничивать ИИ или нет, может стать слишком поздно.
У Дмитрия Мелькина и Павла и Бориса Лонкиных вопросов о том, кого взять в команду для участия в боях роботов, не было. Ребята знали друг друга еще по «Бауманке», потом вместе собирали и устанавливали электростанции на солнечных батареях. Однажды Дмитрий увидел объявление о соревнованиях по робототехнике и подал заявку. Друзья поддержали инициативу, и через месяц в гараже стоял первый боевой робот команды Solarbot — Бронтозавр.
Человеческие тела для человеческих городов
Частично люди зацикливаются на гуманоидных роботах из-за недостатка воображения, цепляясь за то, что видели в кино. Но в будущем антропоморфных роботов наверняка будут дислоцировать на поле битвы. С учётом скорости урбанизации и роста населения, военный колледж США предсказывает, что в ближайшие десятилетия всё больше боёв будет идти в местах с высокой урбанизацией – то есть в местах, предназначенных для того, что двигается и выглядит, как люди.
«Если вы задумали робота, способного перемещаться в здании,- говорит Сингер,- то вспомните, что здания предназначены для людей определённой высоты или формы. Это реальная проблема дизайна. Мы строим мир определённым образом».
Исследователи пытаются создавать роботов, способных передвигаться в условиях простейшей человеческой архитектуры. В 2008 году на TechX Challenge предложили приз в $700 000 команде, чей робот сможет автономно войти в здание, подняться по лестнице и нажать в лифте кнопку определённого этажа. Никто его не выиграл. Большинство роботов даже до входной двери не добрались. А её даже не требовалось открывать.
Но технологии не стоят на месте. Недавно команда из Стэнфорда построила робота, способного не только нажать нужную кнопку, но и распознать кнопки на панели лифта, не виденные им ранее. Это был скачок развития. У робота работали «глаза» и «палец» – два критичных компонента оборудования, необходимые людям для передвижения по зданиям. Но лестница – такое же неестественное человеческое изобретение, как и лифт – могла остановить его.
И наоборот, используемые сейчас роботы для обезвреживания бомб обычно передвигаются на колёсах, гусеницах, или сочетают эти методы. Многие из них могут карабкаться по лестницам, пусть и неуклюже.
Действительно ли восстание роботов возможно
В СМИ с конца 80-х гг. прошлого столетия активно обсуждается сценарий обратного развития человечества в период, когда роботы захватят мир. До сих пор не существует единого мнения, есть ли вероятность реализации этой гипотезы.
В действительности это станет возможным не раньше, чем машины научатся самостоятельно создавать программы для решения частных задач и решать эти задачи без вмешательства людей, другими словами, обретут разум.
Пока ученые отрицают такую вероятность и считают интеллект биологическим феноменом. Сознание, интуиция, эмоциональность, творческое мышление и другие ментальные способности присущи лишь людям: только они могут влиять на развитие цивилизации на Земле. Если ошибки в программе заставят робота «восстать», человеческий разум сумеет его «усмирить».