Технологии меняют не только поле боя, но и наше восприятие насилия. В подкасте Sapere Aude специалист по этике войны Арсений Куманьков рассуждает о самых острых вопросах современной философии конфликтов. Почему развитие искусственного интеллекта не помогает соблюдать международные правила ведения войны, а, наоборот, делает войну более привлекательной? В какой момент идея спасения людей от геноцида и репрессий превращается в преступление? Почему этика разрешает силовое вмешательство там, где юристы видят прямое нарушение норм?
«Мы живем в мире государств, для которых война исторически была одной из ключевых задач»
Современные исследования показывают, что мораль не является исключительно человеческим свойством или особым духовным навыком, присущим только людям как разумным существам. На самом деле основания морали проявляются и у других видов животных. Мораль оказывается приобретением, которое разные живые существа, включая человека, получают в ходе эволюции.
О морали можно говорить и безотносительно естественного контекста. Мы как разумные существа способны понять, что нашу жизнь регулируют определенные принципы, необходимые для сохранения человеческого в нас — это и есть мораль. Понимание добра и зла задает полюса, которые мы ощущаем при принятии решений. Мне кажется, такие базовые представления универсальны: вне зависимости от разницы культур существуют общие идеи, определяющие моральные принципы. В этом смысле я выступаю как реалист и универсалист.
Что касается насилия, то оно, на мой взгляд, как раз не вполне естественно — особенно в форме войны, то есть массового организованного насилия, где человек часто участвует не по своей воле. Самооборона для живого существа естественна, но война — это совершенно иное. Это социальное явление, возникшее в ходе социальной эволюции. Антропологи отслеживают момент, когда первобытные группы, увеличиваясь и оказываясь на одной территории, начинают воевать и враждовать.
Рассылка Школы гражданского просвещения
Современная война — это прежде всего сложное социально-политическое явление, и назвать его естественным точно нельзя. Ее устойчивость и воспроизводимость связаны с тем, что мы живем в мире государств, для которых война исторически была одной из ключевых задач. Существует культура оправдания и одобрения войны, от которой трудно избавиться. Мы видим ее в школах и в повседневности: города полны военных памятников, а улицы названы в честь военных событий. Нам транслируют взгляд на войну как на что-то ужасное, но якобы необходимое. Однако это не естественность войны, а специфическая культура, в которой мы сформированы.
Отсюда напрашивается оптимистический вывод: если война — продукт культуры и институтов, мы можем придумать, как от нее избавиться или хотя бы снизить вероятность конфликтов на уровне государств.
«С давних пор человек увеличивал дистанцию между собой и врагом на поле боя»
Сейчас много страхов и опасений, связанных с искусственным интеллектом. Не уверен, что этот страх быстро конвертируется в продуктивное опасение, которое защищало бы человека от войны, защищало бы политиков от выбора в пользу силы или удерживало бы боевиков от насилия.
Мой страх и страх моих коллег скорее связан с другим: современные технологии, наоборот, делают войну более возможной. С давних пор человек увеличивал дистанцию между собой и врагом на поле боя. Сначала появился порох и огнестрельное оружие, отодвинувшее войска на десятки метров. Затем Первая мировая война принесла артиллерию, бьющую на десятки километров, газы, авиацию. Но сейчас мы переживаем новую революцию в сферах ведения войны. К традиционным физическим средам — суше, воде и воздуху — добавилась цифровая сфера, в которой боевые действия ведутся не менее активно.
Невидимость киберпространства и сложность анонимной идентификации порождают множество проблем. Нормы международного права предписывают военным носить униформу открыто, что отличает регулярную армию от иных формирований. Однако в цифровом мире этот критерий соблюдать крайне сложно. Это подрывает базовые требования, определяющие моральную и правовую допустимость действий на поле боя. Первое — это принцип различения, согласно которому можно атаковать только законные цели, то есть комбатантов, и нельзя нападать на гражданских лиц. Второе — принцип соразмерности или пропорциональности, предписывающий наносить лишь минимально необходимые удары.
С этими принципами возникают большие проблемы, когда война переходит в цифровое измерение или когда применяются такие технологии, как дроны и роботизированные системы. С одной стороны, есть надежда, что искусственный интеллект может определять объекты для нападения быстрее и точнее, ведь у него нет физической усталости или психологических травм. Но с другой стороны, определение законной цели требует контекстного морального суждения, а не просто распознавания объекта по картинке. В современной литературе преобладает мнение, что цифровые системы пока не способны полноценно следовать принципу различения. Соответственно, атаки в киберсреде или с применением алгоритмов рискуют оказаться непропорциональными ударами по ошибочно определенным целям.
Основное опасение состоит в том, что мы можем слишком сильно довериться технологиям, делающим войну невидимой и незаметной. В такой ситуации война становится более соблазнительной перспективой. Если памятники прошлым войнам напоминают об их ужасах и вызывают желание больше никогда к этому не возвращаться, то распространение цифровых и автономных систем отдаляет войну от нас лично. Она начинает восприниматься как что-то не совсем серьезное и не столь опасное. Наша планка неприятия войны понижается, и, соответственно, и обществу, и политикам может быть проще принимать решения о войне.
«Удешевление войны создает новый существенный вызов»
Раньше дискуссия о роботах, цифровизации и кибератаках, как правило, касалась проблемы сильной асимметрии. Считалось, что будущая война будет строиться по следующему сценарию: есть богатое, сильное государство, развитая военная держава с множеством технологий, которые она эффективно использует для того, чтобы не отправлять своих граждан на войну, а посылать вместо них роботов или гигабайты вирусов, поражающих вражескую инфраструктуру.
С одной стороны, это казалось близким решением, способным положить конец войне как ужасному процессу, где гибли люди. С другой стороны, подобный расклад воспринимался как полное переформатирование глобальной системы международных отношений. Радикально говоря, это могло превратить весь мир в своего рода цифровой концлагерь, где надсмотрщиками выступали бы сильные державы, а менее развитые страны оказались бы от них в полной зависимости. Война превратилась бы в своеобразную охоту на террористов и боевиков, чем-то не угодивших правительствам этих больших и развитых государств.
Вполне возможно, что это все еще наше будущее, но пока оно выглядит отдаленным. Современная война с использованием цифровых технологий и роботов показывает, что весьма примитивные системы, не требующие чрезмерных ресурсов и сложной инфраструктуры, оказываются крайне эффективными на поле боя. Это видно на примере конфликтов, которые приковывают наибольшее внимание: в Украине, в Газе и в целом в противостоянии Израиля с соседями, а также в Иране. Не самые сложные роботизированные системы становятся важнейшим инструментом ведения боевых действий и наносят существенный ущерб. Роботизация войны пошла не по пути фантастической «войны машин», а по пути примитивизации и удешевления самих систем.
Удешевление войны создает новый существенный вызов. Она все так же превращается в охоту, но участвовать в ней теперь могут в равной степени как высокотехнологичные державы, так и силы, не обладающие мощной экономикой или развитыми армиями. Такая трансформация произошла вопреки ожиданиям, которые были у ученых и философов еще тридцать лет назад.
"Военные преступления документируются, но никто не в состоянии обработать такой объем данных"
Понятие jus post bellum — нормы, регулирующие завершение войны — отражает определенную архаичность современной этики войны. Это латинское название появилось относительно недавно, но схожие концепции существовали еще в средневековой философии, писавшейся на латыни. Вопрос о том, как цифровые технологии связаны с послевоенной ситуацией и принципами, которыми должны руководствоваться государства или военные после окончания конфликта, очень сложен. Сама эта сфера совсем новая — работы по ней начали появляться примерно 25−30 лет назад, так что она, возможно, даже новее, чем дискуссии о роботах или кибервойнах.
Появление этого раздела связано с тем, что традиционно философы смотрели лишь на то, как война начинается — какие есть поводы, законна ли власть, принимающая решение, — и на то, как она ведется. Вторая тема адресовалась солдатам на поле боя, которые тоже должны следовать моральным принципам и гуманитарному праву. Однако современные конфликты показывают, что огромная проблема кроется не только в причинах начала войн или преступлениях солдат. Большая проблема связанa с тем, как войны завершаются и как перестраивается послевоенный порядок. Классический пример здесь — Ирак. Война началась без должного повода, но после быстрой победы и свержения режима Саддама Хусейна выяснилось, что основная работа только начинается. Задача государства заключается в том числе в выстраивании порядка после победы: в политическом строительстве, социальной реконструкции, перезапуске общественных и экономических институтов.
Здесь же встает вопрос о том, как участвовавшие в конфликте стороны будут восстанавливать отношения и проводить примирение. В этом процессе важную роль начинают играть современные военные технологии, причем речь не только об оружии, но и об активном документировании конфликтов. За первые десять лет войны в Сирии было отснято видеоматериалов продолжительностью сорок лет. Война в Украине давно преодолела эти рамки: там только за первые 150 дней сняли видео на десять лет вперед, а за последующие годы накопилось материалов, наверное, на несколько веков.
Возникает иллюзия, что весь этот объем цифровых свидетельств можно полезным образом использовать, однако в реальности далеко не каждое зафиксированное преступление будет расследовано, а виновные наказаны. Никто не в состоянии обработать такой объем данных. Разве что появится надежда на искусственный интеллект, хотя он, скорее всего, создаст еще сорок лет фейковых видео. Это создает неизбежный груз, сопровождающий послевоенную жизнь и постоянно привязывающий нас к прошедшим войнам. В работе с исторической памятью важно не только сохранять свидетельства и выстраивать ритуалы почитания, но и уметь забывать, дистанцироваться и перелистывать страницу. Цифровизация же существенно осложняет эту задачу.
«Требовать от человека включенности в политический процесс с моральной точки зрения неправомерно»
Я считаю, что у обычных граждан в любом государстве возможности влиять на политику, а особенно на решение о ведении войн, весьма ограничены. Почти нет примеров, когда общество оказывало бы сильное, быстрое и непосредственное воздействие на подобные решения. Даже известный протест против войны во Вьетнаме в США 1960−1970-х годов долгое время оставался маргинальным. Да, он создавал общий фон общественного неприятия, но не привел к столь быстрому завершению конфликта, как того хотелось бы его участникам. В случаях же с последующими войнами ситуация выглядела еще сложнее.
У каждого есть право на частную жизнь, и он не обязан участвовать в политических дискуссиях, публичных оценках или протестных движениях. Ни у кого нет морального долга становиться активистом. Однако существуют негативные обязанности: не поддерживать агрессивную и несправедливую войну, не содействовать ей, не пропагандировать, не агитировать за нее и не финансировать ее.
Современные цифровые технологии создают определенный дуализм. С одной стороны, они упрощают коммуникацию и делают публичную среду более открытой: сегодня любой человек может записать короткое видео со своим мнением, благодаря чему слышен голос рядового гражданина, не наделенного никакой политической властью. С другой стороны, эти же цифровые технологии становятся эффективным инструментом контроля, слежки и ограничения активности граждан, что отчетливо видно на примере Ирана. Поэтому требовать от каждого человека обязательной включенности в политический процесс или публичных оценок действий своего правительства с моральной точки зрения неправомерно.
«Право запрещает любую агрессивную войну; в этической литературе на эти процессы смотрят иначе»
С точки зрения права ситуация предельно ясна: любая агрессивная война находится под запретом. Разрешена только самооборона — индивидуальная или коллективная, когда страна защищает своих союзников. Агрессия недопустима за редкими юридическими исключениями, когда, например, Организация Объединенных Наций теоретически может санкционировать вторжение.
В этической литературе о войне на эти процессы смотрят иначе. Там сохраняется представление об оправданности самообороны, но фокус смещается. Военное насилие с точки зрения морали рассматривается как крайняя мера для защиты людей. Традиционно считалось, что обязанность правительства — защищать свое население или союзников. Однако сегодня принято признавать, что массовые преступления могут происходить и в третьей стране, с которой нет состояния войны. Если государство способно ввести войска, остановить геноцид и прекратить преступления, при этом не ввергая регион в еще больший хаос, современная этическая теория считает применение силы оправданным. В этом вопросе философия опережает право, создавая зазор между академической этикой и международными нормами.
Идея о том, что сила может быть использована для спасения людей от репрессий и геноцида собственного правительства, сама по себе верна. Но здесь критически важно, чтобы заявляющая об этом сторона заранее удостоверилась в наличии ресурсов для полного разрешения конфликта. С этой точки зрения события вокруг Ирана выглядят как чудовищное моральное преступление. Публичные обещания и призывы вроде «Вставайте, помощь рядом» со стороны руководства США стали безответственной провокацией, которая привела к огромным жертвам.
Создание языка, на котором мы говорим о подобных явлениях, и поиск их оценок и интерпретаций — задача философов. Иногда — в попытке спрогнозировать будущее: что произойдет с войнами и их последствиями. На личном же уровне главная задача каждого человека — сохранять трезвость ума и честность по отношению к миру.
