Солдат или робот-убийца: что нужно человечеству?

Сенсационный доклад представила общественности организация Human Rights Watch совместно с Гарвардской школой права

В их 50-страничной работе «Теряя человечность: акция против роботов-убийц» выражен протест против растущей тенденции к технологизации вооруженных сил передовых государств мира, в частности, против создания роботов, способных принимать решение об убийстве без санкции на то человека, или, как их назвали в Human Rights Watch, «роботов-убийц». Доклад вызвал оживленные споры между защитниками и противниками технологий будущего. Давайте посмотрим, есть ли основания опасаться пока не существующих, но потенциально возможных «роботов-убийц».

Авторы идеи утверждают, что решение о разработке таких роботов, которые, кстати, должны в будущем полностью заменить современных солдат, будет принято и реализовано в ближайшие 20-30 лет. В Human Rights Watch таких роботов называют «полностью автономным оружием, способным выбирать и поражать цели без вмешательства в этот процесс человека» и настаивают на необходимости введения предупреждающего запрета на подобные разработки. Подчеркивая опасность, авторы приводят в пример современные эксперименты в Корее, где идея создания солдат-роботов находит поддержку у ученых и правительства.

Доклад «Теряя человечность» является первой крупной публикацией, посвященной полностью автономной робототехнике, представленной негосударственной организацией и опирающейся на обширные исследования в области законодательства, технологии и человеческой этики. В обсуждении доводов доклада приняли участие военные, ученые, философы и юристы. Они попытались оценить автономное оружие с точки зрения военной необходимости, стоимости, политических и этических убеждений.

Система вооружения MK 15 Phalanx, ВМС США. Разработана для идентификации и поражения реактивного или угрожающего летательного аппарата. Эта автоматическая оружейная система защиты в одном шаге от полной автономии. Фото с сайта hrw.org

«Наделение машин правом решать, кому жить, а кому умирать на поле боя, заведет современные технологии слишком далеко. Управление робототехникой человеком необходимо для сведения к минимуму жертв и раненых среди мирного населения», – подчеркивает представитель Human Rights Watch Стив Гуз.

Iron Dome – израильская автоматическая система вооружения. Отправляет сигнал об опасности оператору, который почти мгновенно должен принять решение, открывать огонь или нет. Фото с сайта hrw.org

Роботы с искусственным интеллектом не способны принять и осознать человеческую этику и понять ценность человеческой жизни. Для них такие понятия, как «инструкция к действию» и «военная необходимость», заменяют человеческую мораль. Даже если искусственный интеллект будет пытаться подражать человеческой мысли, несоответствие инструкций и реальности повлечет за собой субъективное принятие решений, которые будут далеки от решений и суждений настоящего человека. Кроме того, с точки зрения правомерности полностью автономное оружие противоречит закону Мартенса, запрещающему разработку оружия, не соответствующего нормам общественной этики и морали.

Южнокорейский робот-караульный. Предшественник полностью автономного оружия, может обнаруживать людей в демилитаризованной зоне. Если человек не называет пароль и не выполняет приказ, робот открывает огонь. Фото с сайта hrw.org

С точки зрения представителей Human Rights Watch, лишение человека возможности решать, использовать оружие или нет, является нарушением его гражданских прав. Во-первых, робот не обладает чувством сострадания и не сможет сопереживать человеку. Подобная безэмоциональность – скорее недостаток, чем достоинство искусственного интеллекта. Например, роботы могут стать инструментом в руках у диктатора, желающего расправиться с восставшим против его тирании народом. Во-вторых, безэмоциональность и невосприимчивость роботов также могут привести к увеличению количества военных столкновений, так как роботы – это «неживая» сила и ее просто не жалко, что значительно снижает моральные ограничения в вопросе развязывания войны. А в любой войне гибель мирного населения неизбежна. То есть вероятность вооруженных столкновений, с точки зрения Human Rights Watch, возрастет.

X-47B, ВМС США. В процессе разработки. Имеет большую автономность при полете, чем любой существующий беспилотник. В будущем будет иметь два отсека вооружения для выполнения функции истребителя. Фото с сайта hrw.org

Наконец, авторы доклада поставили вопрос об ответственности за действия роботов. Ведь неясно, кто предстанет перед судом, если техника будущего даст сбой и тем самым нарушит человеческие законы. Теоретически в такой ситуации виновны командир, программист и сам робот, то есть ответственность будут нести люди, а совершать преступления будет робот. В результате будет невозможно говорить о правосудии ни по отношению к жертвам преступления, ни по отношению к привлеченным к ответственности гражданам, а международное гуманитарное право остается в стороне.

Британский истребитель Taranis. Разработан для поражения отдаленных мишеней, «даже на другом континенте». Еще один пример почти полной автономии. Фото с сайта hrw.org

Казалось бы, с такими доводами не поспоришь, однако оппоненты докладчиков высказали и свое мнение. Они утверждают, что в настоящее время, в век прогрессивных технологий, проблема противостояния человека и техники не стоит вовсе. Современное молодое поколение, как и большинство уже взрослых, а часто и пожилых людей не представляет себе жизни без компьютеров, социальных сетей, смартфонов и всевозможных гаджетов. Не стоит забывать и о фармакологических разработках, без которых человечество просто не выживет. Человечество свыклось с техникой, сделало ее неотъемлемой частью своей жизни.

Противники докладчиков поставили под вопрос реальность выводов и об угрозе такого искусственного интеллекта. Разработка подобных технологий ведется, она вызвана необходимостью снижения количества потерь солдат в ходе боевых действий и во многих случаях – среди гражданского мирного населения, вызвана условиями современных боев, когда солдату необходимо помнить, воспринимать и анализировать огромное количество жизненно важной информации. Иногда объем такой информации даже превышает возможности человеческого восприятия. В этих случаях роботы исключительно полезны: они не сделают механической ошибки, приняв свою технику за чужую, будучи связаны с нею на уровне программирования. Именно поэтому уже разработаны когнитивные технологии, предупреждающие угрозы и связывающие мозговые волны человека, механические датчики и информационные потоки от различных устройств.

Одобренный правительством США, запущенный в производство беспилотник Predator. На изображении видно, как он выпускает реактивный снаряд. США не нуждаются в международном одобрении этого дрона: ведь реактивное оружие и беспилотники в частности уже получили санкционирование. Фото с сайта hrw.org

Не стоит забывать и о том, что потери среди солдат-роботов могут быть легко восполнимы в ходе боя, потери же среди людей невосполнимы, в первую очередь – в моральном плане. Такие технологии создаются в помощь миру, а не войне, утверждают оппоненты.

Кроме того, даже Международное общество Красного Креста поддерживает идею замены солдат роботами, чтобы оградить человеческие жизни от возможной опасности.

В качестве решения проблемы Human Rights Watch предлагает руководящим органам государств принять законы, запрещающие разработки и использование подобных технологий, что, с их точки зрения, внесет значительный вклад в утверждение прав и свобод человека. Они требуют, чтобы каждый проектируемый вид вооружения на каждом этапе его разработки оценивался с точки зрения возможной опасности для мирного населения в случае его военного применения.

Полностью автономного оружия, способного принимать решение о стрельбе по цели самостоятельно, пока не существует, и даже в США, признанном лидере технологического прогресса, нет программы, нацеленной на создание такого оружия.

Однако следует признать, что в передовых мировых государствах, таких как Россия, Китай, Германия, Израиль и Великобритания, разрабатываются технологии, направленные на замену человека роботом в возможных военных конфликтах, а предсказание об изобретении искусственного интеллекта в ближайшие 20-30 лет подтверждается многими учеными. Доводы, приводимые обеими сторонами дискуссии, в равной степени имеют право на существование, однако оппонентам так и не удалось прийти к единому выводу и определенному решению. Вопрос о том, примет ли наш мир искусственный интеллект или нет, остается открытым.