США предупредили об опасности разработки самоуправляемых роботов
16 февраля в газете The Times была опубликована информация о докладе, посвященном перспективам военной робототехники, который был подготовлен Калифорнийским государственным политехническим университетом для ВМС США. Ученые пришли к выводу, что боевые роботы, которым предстоит участвовать в вооруженных конфликтах, должны "жить" в соответствии со строгими правилами, чтобы не представлять угрозу для человека, а также учиться этике ведения войны. Данное исследование стало первой серьезной работой, рассматривающей боевых роботов в качестве солдат, способных принимать самостоятельные решения на поле боя.
---------------------------------------------------------------
Прикладной Азимов
Айзек Азимов. ---------------------------------------------------------------
Идею создания свода законов для роботов нельзя назвать совсем новой. У писателей-фантастов она обрела популярность еще в начале прошлого столетия. В частности, в 1942 году в своем рассказе "Хоровод" Айзек Азимов сформулировал "Три закона роботехники", которые фактически стали прописной истиной для прикладных исследований в этой области:
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.
Для создания современных роботов военного назначения эти правила уже не совсем применимы. Машинам, созданным для борьбы с солдатами противника или террористами, причинять вред людям придется по определению. Но если дело дойдет до полностью самостоятельного интеллекта, с помощью которого робот сможет принимать решения без участия человека, то последствия его действий могут быть непредсказуемыми.
Составители доклада пришли к выводу: мнение о том, что робот способен делать лишь то, на что он запрограммирован, является устаревшим. Современное программное обеспечение разрабатывается множеством специалистов. При этом отдельные участники таких проектов могут не знать особенностей программы в целом. Соответственно, отдельные элементы кода в сочетании могут дать самый неожиданный результат при практическом применении.
На примере обычных компьютерных программ понятно - среди них нет идеальных образцов, которые не содержали бы в себе хоть какие-нибудь ошибки. Даже такие софтверные гиганты, как Microsoft, вынуждены годами дорабатывать свое ПО, выпуская тысячи обновлений и исправлений, а заодно и выслушивая критику недовольных пользователей. Но обычные программы, даже неисправные, никого не могут убить. А вот если боевой робот перепутает своих и чужих или просто начнет уничтожать все живое вокруг, жаловаться в службу клиентской поддержки будет поздно.
В своем исследовании ученые также задают множество вопросов, на которые, судя по всему, разработчики роботов пока не могут найти ответы. Например, каким образом боевую технику удастся надежно защитить от вирусов и хакеров? Кто будет нести ответственность за сбой в программе боевого робота, который вдруг начнет массово уничтожать мирных жителей - сам неисправный механизм, допустивший ошибку программист или же президент США, отдавший приказ о начале боевых действий?
Еще один серьезный вопрос - нужна ли такому роботу функция самоуничтожения, которую ученые называют "суицидальным выключателем", или же, напротив, она может быть использована в ущерб машине?
Окончательный вывод, который делают ученые, неутешителен - без правил и даже "программы обучения" вновь созданных самоуправляющихся роботов эксплуатировать опасно. Авторы также предостерегают как Пентагон, так и американских производителей, которые, по их выражению, "рвутся на рынок", от самодовольства и поспешности.
Полуумное железо
------------------------------------------------------------------
Робот Swords. Фото армии США. ------------------------------------------------------------------
Сказать точно, насколько далеко удалось зайти американским инженерам в своих попытках разработать настоящих самоуправляемых роботов-убийц, довольно сложно. Такие работы, скорее всего, ведутся, но из-за своей новизны и специфичности они наверняка засекречены. Пока же американские производители радуют свою армию очередными "полуумными" изобретениями.
В 2007 году немецкий журнал Spiegel сообщил о первых попытках применения боевых роботов в Ираке американскими военными. Вооруженными силами США уже используются различные модификации роботов, которые способны вести разведку и производить разминирование, однако попыток применить на практике машины, способные уничтожать живую силу противника, ранее не предпринималось.
Разработчики отмечают, что робот Swords, созданный специалистами компании Foster-Miller, стал первой такой машиной в истории войн. Хотя это изобретение скорее напоминает не робота, а игрушечную машинку на гусеницах, да и до самоуправления ей пока еще очень далеко - руководить роботом-убийцей приходится оператору с помощью специального оборудования.
Вооружена машина пулеметом M249. Кроме этого, как утверждают разработчики, она может использоваться в любое время суток, а также преодолевать самые сложные препятствия, включая ступени.
Испытания Swords, по отзывам военных, дали положительные результаты. Однако, как не без горечи сообщил немецкому изданию представитель компании-разработчика, о том, удалось ли с помощью изобретения уничтожить хотя бы одного боевика, им на тот момент так и не сообщили. А в настоящее время практическое применение Swords вообще приостановлено по неизвестным причинам.
Еще более внушительно выглядит робот Gladiator, разработанный в американском Университете Карнеги-Меллона и впервые представленный в 2005 году. Эти роботы, которым пока также далеко до самоуправления, существуют в различных модификациях, а сама программа по их созданию финансируется Пентагоном. Высокопоставленный представитель морской пехоты США уже заявил, что за этой машиной "будущее ведения боевых действий".
--------------------------------------------------- Робот Gladiator. Фото Luis R. Agostini/USMC. ----------------------------------------------------
Gladiator позиционируется как "полуавтономный" робот. Изначально машины не предназначались для поражения живой силы противника, а должны были проводить осмотр местности, предупреждать солдат об опасностях, таких как минные поля, ловушки, засады, а также о возникновении химической, биологической и ядерной угрозы. Позже военные, принявшие новинку на вооружение, установили на нее дистанционно управляемый пулемет M240.
В декабре 2007 года об еще одной разработке американских ученых сообщил телеканал CNN. 25-летний инженер-самоучка Адам Геттингс, работающий на созданную несколько лет назад компанию Robotex, представил свое детище - малогабаритного робота MH, вооруженного пулеметом. Машина, высота которой составляет около полуметра, способна передвигаться со скоростью около 15 километров в час и управляется дистанционно. В отличие от дорогостоящего Gladiator, который оценивают в сотни тысяч долларов, ее стоимость составляет 30-50 тысяч. Деятельность Robotex финансируется частными инвесторами-энтузиастами, хотя компания надеется, что ее разработками заинтересуется и Пентагон. Robotex также рассчитывает на американских полицейских, поскольку некоторые модификации их роботов способны вооружаться не только летальным оружием, но и электрошоковыми устройствами Taser. ---------------------------------------------------- Инженер-самоучка Адам Геттингс со своим изобретением. Фото Chris Mueller. ----------------------------------------------------
В начале июня 2008 года американская компания Foster-Miller также сообщила о завершении поставок министерству обороны США первого боевого робота MAARS (Modular Advanced Armed Robotic System). Уже тогда американские военные объявили, что в целом до 2014 года в 15 сухопутных бригад ВС США должны поступить 1700 боевых роботов и что при этом соотношение личного состава к количеству машин достигнет 29 к 1. К концу 2014 года все 1700 роботов будут готовы к применению.
----------------------------------------------------------- Робот MAARS. Фото с сайта www.foster-miller.com ----------------------------------------------------------- На MAARS можно устанавливать пулемет M240B и пусковую установку для ведения огня дымовыми, осветительными, слезоточивыми или осколочно-фугасными гранатами. Конструкция позволяет производить монтаж другого оборудования, например манипулятора грузоподъемностью до 45 килограммов для обезвреживания мин, а также различного нелетального оружия и приборов для ведения информационно-пропагандистских операций.
-------------------------------------------------------------- Бег впереди паровоза
-------------------------------------------------------------- Перспективный робот-санитар BEAR. Фото Vecna Technologies.
--------------------------------------------------------------
Перечисленные разработки - лишь немного из того, что сегодня предлагают американской армии как известные корпорации, так и скромные энтузиасты. Хотя, судя по всему, о самых интересных проектах Пентагон все же предпочитает особо не распространяться. При этом планируется, что американская армия уже к 2020 году должна на 30 процентов состоять из роботов.
Речь идет не только о боевых и разведывательных машинах. В 2007 году армия США заключила контракт с компанией Vecna Technologies на создание специального робота-санитара BEAR. Предполагается, что в перспективе эта машина будет заниматься эвакуацией раненых с поля боя.
| 
