библиотека статьи

Когда правоохранительные органы выходят из-под контроля в либеральных демократиях

Стефани Хэйр, независимый исследователь и автор книги об этике технологий, пишет, что полиция Южного Уэльса в тестовом режиме запускает приложение по распознаванию лиц для телефонов. Приложение должно не только распознавать лица, но и автоматически сопоставлять полученную информацию с данными полицейской базы. 

На первый взгляд в новости нет ничего настораживающего, продолжает Хэйр. В конце концов у нас и так везде установлены камеры, и нас уверяют, что если нам нечего скрывать, то не о чем волноваться, а значит, можно пожертвовать неприкосновенностью нашей частной жизни, если это помогает полиции эффективнее бороться с преступностью.  Но думать так — ошибочно. Только люди, которые никогда не были ущемлены в своих гражданских правах, могут распоряжаться ими так небрежно. 

Чтобы понять, какую безграничную власть дают технологии распознавания лиц, попробуйте сравнить это с использованием полицией биометрических данных (отпечатки пальцев и генетическая экспертиза).

Предоставляя полиции доступ к нашим биометрическим данным, мы остаёмся полноценными участниками процесса, потому что для этого нам надо быть как минимум арестованными и оказаться в полицейском участке — то есть принять непосредственное участие. К тому же полиция может получить наши данные только в индивидуальном порядке, невозможно собрать биометрические данные массово. Полиции приходится соблюдать законы, предусматривающие использование биометрических данных, включая срок хранения этих данных. Если мы были арестованы и отпущены без предъявления обвинения или же следствие вынесло оправдательный приговор, полиция обязана удалить информацию о наших ДНК и отпечатках пальцев в течении оговоренного периода времени. 

С распознаванием лиц совершенно другая ситуация. 

Полиция имеет возможность использовать технологию распознавания лиц без нашего ведома. Эти данные могут быть получены массово. В законе нет информации о том, как эти данные могут быть использованы. Если мы отпущены без предъявления обвинения, или же оправданы, наши данные могут храниться неопределённый срок. Это ставит нас в ситуацию, в которой мы должны доказывать нашу невиновность, что нарушает одну из главных догм либеральной демократии - мы невиновны, пока наша вина не доказана. 

Технология распознавания лиц угрожает важнейшим правам граждан в либеральных демократиях - праву протестовать и свободе слова.

Полиция Южного Уэльса не может не знать об этом, потому что в Британии вопрос применения технологии распознавания лиц встретил резкое общественное неприятие. Инициатива исходила не только от организаций, занимающихся гражданскими свободами, но и от трёх британских регуляторов в сфере защиты данных — комиссаров по камерам слежения, по биометрическим данным и по информации, а также от членов Палаты общин, а именно Комитета по науке и технологиям, которые призвали объявить мораторий на использование технологии распознавания лиц. Все они признают не только неаккуратность исполнения, но и угрозу праву на личную жизнь и гражданские свободы. Все единодушно признают, что существование технологии, способной идентифицировать людей без их ведома — сбывшаяся мечта любого диктатора, открывающая новую страницу возможностей преследования на основании этнических признаков, религии, пола, сексуальных предпочтений, иммиграционного статуса или политических взглядов. 

Либеральные демократии всегда ставили перед собой цель найти баланс в достижении обеспечения свободы и безопасности. Все вопросы которые гипотетически могут угрожать этому равновесию, будь то технология распознавания лиц или что-то другое, не должны решаться силами полиции. Это решение должно приниматься Парламентом, который представляет общество, считает Хэйр.

Адам Харви, американский активист и расследователь, также углубился в эту тему, потому что случайно обнаружил в базе данных правительства США фотографии коллеги, которые без ее ведома использовались для тренировки программы распознавания лиц. Харви считает, что сам термин “распознавание лиц” вводит нас в заблуждение, потому что технически распознавание не останавливается на наших лицах, оно не остановится до тех пор, пока не получит информацию о нашем ДНК. 

Но есть и ещё один взгляд на проблему. Маасс, исследователь Фонда электронных рубежей (Electronic Frontier Foundation) считает, что решение этого вопроса лежит не в поле законности, но в поле морали и этики. На сегодняшний день известно, что разработчики программ распознавания лиц тестировали оборудование на фотографиях, находящихся в открытом доступе в интернете, и никто из людей, изображенных на фотографиях, не давал своего согласия на участие в эксперименте. Часто платформами, которыми пользовались разработчики для получения информации, оказывались крупные компании, такие как Майкрософт, IBM или Facebook, и в этой ситуации все участники процесса полагались на лицензию Creative Commons, которая призвана защищать материалы пользователей.  Недавно Райан Меркли, первое лицо Creative Commons объяснил позицию организации, заявив, что изначально лицензия предусматривала защиту прав интеллектуальной собственности, но возложить на Creative Commons ответственность за неприкосновенность личности или регуляцию инструментов слежения, применяемых в интернете — плохая идея, потому что вопросы такого порядка должны решаться на уровне публичной политики. 

Увы, эксперты единодушно считают, что попытка пустить вспять процесс распознавания лиц обречена на провал. Едва ли получится регулировать использование данных внутри географических границ государств. Даже если достигнута договоренность со структурой, которая будет собирать и хранить данные, мы не можем предвидеть ситуации утечки данных, взлома системы, смены режима и так далее. Таким образом мы не можем предсказать, у кого в конце концов окажется информация в полном объёме.

Ирина Бороган и Андрей Солдатов, ведущие российские эксперты по вопросам интернета и безопасности *, считают, что источником сокращения свобод граждан и передачи их в руки спецслужб, является не только стремление спецслужб к власти, но и запрос самих граждан на большую безопасность, который продиктован глобальной иллюзией относительно безопасности per se. Поскольку западное общество несколько десятилетий живет в относительно мирном времени, людям начинает казаться, что стопроцентная безопасность возможна. Появляется иллюзия высокой эффективности работы служб безопасности. Поэтому, когда происходит массовая трагедия, реакция на неё всегда эмоциональна. Это выгодно и властям, и компаниям, которые производят и поставляют средства безопасности, от камер слежения до рамок металлоискателей. В этой ситуации модель отношений государства и общества — это метафорический контроль родителей за детьми (kid control). Но можно ли говорить о том, что намерения государства по отношению к обществу, так же чисты, как намерения родителей по отношению к детям? 

Ирина Бороган и Андрей Солдатов считают, что эта модель ненадежна и раскалывается при первом столкновении с реальностью. Следуя логике, которую предлагает государство — гарантия безопасности в обмен на свободы — общество соглашается уступить свои свободы под влиянием страха или под действием заведомо ложных аргументов. Но действительно гарантировать безопасность можно было бы только приставив к каждому гражданину ещё одного человека для охраны. Другой пример гарантии безопасности близкой к абсолютной — шведская тюрьма. Нарочитая абсурдность этого примера полезна, потому что очень доступно иллюстрирует иллюзорность гарантии безопасности в обмен на свободу. 

Но если мы понимаем, что отказ от свободы не гарантирует нам безопасности, а является только отказом от свободы, это подводит нас к главной мысли о свободе как абсолютной ценности. Эту свободу невозможно разменять на иллюзорную безопасность. Её невозможно получить в дар от государства, как и любого другого источника. Если мы принимаем свободу как абсолютную ценность, мы должны сделать так, чтобы наш голос, голос общества и голос каждого в отдельности, был услышан. Свобода требует глубокого понимания и нашего ответственного к ней отношения. 

Читать больше: 

What is it like when police go rogue in a liberal democracy? Look to Britain (англ. яз.)

Who’s using your face? The ugly truth about facial recognition (англ. яз.)

Ирина Бороган и Андрей Солдатов: Свобода vs безопасность

_____________________


*Журналисты-расследователи, создатели сайта Agentura.Ru, авторы книг "Новые игры патриотов. Спецслужбы меняют кожу", "Новое дворянство. Очерки истории ФСБ" и "Битва за Рунет. Как власть манипулирует информацией и следит за каждым из нас"