Бунецкий Дмитрий
Екатерина Степаненко
редактор Давайте сознаемся: мы любим предсказателей. Разных мастей — от астрологов (это удивительные люди, некоторые из которых до сих пор не знают, что одна из звезд в созвездии Стрельца, к примеру, далеко не звезда, а целое скопление диаметром в добрую сотню световых лет) до биржевых и политических аналитиков (не менее удивительные ребята, способные делать выводы приблизительно на тех же основаниях, что и астрологи). Будущее — штука весьма туманная, а тут хоть какая-то определенность.
Но вот вам история о предсказателях, у которых есть все шансы стать ненавистными для всех и каждого. Во-первых, потому что это машины. Во-вторых — потому что они предсказывают преступления, а каждый из нас в чем-то да замешан. В-третьих, потому что они могут ошибаться. Добро пожаловать в мир Генри Каттнера, Роберта Шекли, Филиппа Дика и Джорджа Оруэлла. Мира, в котором машины решают, хотите ли вы преступить закон. Мир, в котором злоумышленника задерживают еще до совершения им преступления.
КИТАЙ: эксперимент на миллиард человек
Совсем недавно, в начале этого года, китайские правительство поручило крупнейшему военному подрядчику China Electronics Technology Group разработать систему предсказания преступлений. Естественно, все происходит в режиме строжайшей секретности — у Министерства госбезопасности КНР даже сайта нет, а телефон они попросту игнорируют. Но главный инженер CETG Ву Манкин все-таки проболтался журналистам Bloomberg, что новая программа будет составлять портреты подозреваемых, анализируя информацию с банковских счетов и места работы, хобби, потребительские привычки и, что главное, кадры с камер наблюдения. И реагировать на нестандартное поведение. К примеру, житель бедной деревни вдруг обзавелся кругленькой суммой. Или человек, не имеющий родственников в других странах, начинает часто звонить за границу. Все это – признаки потенциального террориста. Выявив нечто подобное, государство может заморозить банковские счета гражданина и потребовать от работодателя доступ ко всем коммуникациям подозреваемого.
Интересно, что тестировать систему будут в северной провинции Синцзян (вошла в состав Китая в 1949 году) и Тибете. То есть именно там, где живет оппозиционно настроенное этническое меньшинство.
Но китайская система реально может заработать. "Эта программа не имеет аналогов, поскольку не встречает сопротивления ни со стороны законов о частной жизни, ни со стороны общественных организаций", — говорит Локман Цуй, ассистент-профессор из Школы журналистики Китайского университета в Гонконге. И уточняет: в Китае и так существует традиция доноса на необычное поведение соседей. К тому же еще со времен Мао на каждого китайца есть особый файл, в котором перечислены его школьные достижения, медицинская история, рабочие успехи, отзывы о личности и прочие сведения, которые мы с вами считаем конфиденциальными.
К тому же с 1 января в Китае вступили в силу новые антитеррористические законы. Теперь власти могут получить доступ к банковским счетам, телекоммуникациям и национальной сети камер наблюдения, которая называется "Скайнет". Многие компании вынуждены были подчиниться: Baidu (ведущая поисковая система), Tencent (владеет мессенджером WeChat), и Sina Weibo (типа Twitter). Вполне естественно, что официально компании открещиваются от сотрудничества с государством, однако источники в них рассказывают: китайские власти уже обращались с требованием предоставить информацию о пользователях.
Baidu, к слову, уже научила свою систему предсказывать заранее риск возникновения большого скопления людей, которое может привести к травмам и смерти. Для обучения они взяли данные о шести "точках интереса" в Пекине (места проведения общественных мероприятий, достопримечательности и транспортные узлы) и онлайн-запросы пользователей на карте. В результате предсказания совпадали с реальностью с точностью до одного часа. Впрочем, уточняют в компании, информация о перемещении пользователей анонимна, так что следить за отдельным человеком не получится.
США: архив, досье и умные алгоритмы
Но Китай остается Китаем — он достаточно тоталитарен, там действует множество запретов, которые нормальному человеку покажутся странными. Совсем другое дело — наши мировые оплоты демократии вроде США и Западной Европы. Вот там-то подобные вещи никогда не произойдут, скажете вы, и… будете неправы.
Пересказывать историю Эдварда Сноудена, который рассказал, как АНБ следит за всем миром, я не буду. Куда интереснее другое: уже несколько лет в США абсолютно публично реализуется та самая "допреступность".
Представьте себе, что вы — Роберт Макдэниел, и вам 22 года. Вы живете в Чикаго, в неблагополучном районе. Временами играете в азартные игры. Покуриваете марихуану. Пару раз задерживались по подозрению в правонарушении. И тут к вам заходит полицейский и говорит: "значит так, парень, мы следим за тобой, так что не вздумай даже нарушать закон". Роберт реально офонарел. Но еще больше парень изумился, когда узнал, что он занесен в "хит-лист" департамента полиции Чикаго. Вместе с ним — еще 400 человек.
"Мы предотвратили сотн и сотни случаев, когда люди пришли бы домой и увидели бы свои дома ограбленными"
Все началось семь лет назад, в 2009-м. Нацинститут юстиции при Минюсте пообещал деньги любому полицейскому департаменту, который сможет предсказывать будущие преступления. Схватка разыгралась нешуточная, но победили чикагцы, которые и получили 2 миллиона долларов. Еще в начале 2000-х все их тачки были оборудованы тачскринами с системой CLEAR (Citizen Law Enforcement Analysis and Reporting) — это и база прав-адресов-имен-ордеров, и связь между полицейскими, и доступ к "смарт-камерам", способным распознавать подозрительные лица.
Впрочем, до 2013 года чикагские копы не делали ничего: мешала текучка кадров и внутренняя политика. Все изменил Майлс Верник из Иллинойского технологического института, который еще в 80-х разрабатывал для Пентагона систему интеллектуального распознавания целей. Позже — создавал автоматическую диагностику наступающего старческого маразма. Специалист по машинному обучению и интерпретации изображений, Верник и стал создателем "допреступности" в Чикаго.
Работа ученого основывалась на нескольких "китах". Во-первых, криминальная база Чикаго — это огромный исторический архив со списком "горячих точек". Она дала толчок для создания карты, где подсвечены районы, в которых, по статистике, могут произойти те или иные преступления. Во-вторых, это досье на преступников и людей, которые с ними связаны, то есть потенциальных правонарушителей. Алгоритмы засекречены, но Верник сознался, что они настолько тонки, что могут даже расположить будущих бандитов по рангу, исходя из их шанса попасть в перестрелку, ранить и убить кого-то. К примеру, Бобби Макдэниел, о котором мы писали вначале, попал в список из-за друга детства, с которым был когда-то задержан из-за распространения марихуаны. Его смертельно ранили — поэтому копы решили нанести визит экс-подельнику, на которого указала машина.
К настоящему времени полиция побывала "в гостях" у сотни допреступников из списка. В пресс-службе Нацинститута юстиции пояснили: речь идет о лицах, которые, по мнению модели, будут вовлечены в перестрелки и убийства.
Чикаго — не единственный город в США, который пытается статистически прорицать преступления. Полиция Санта-Крус (Калифорния) тоже использует математическую модель, рассчитывающую частоту преступлений в разных районах, с 2011 года. Из-за этого изменились маршруты патрулей. Только за первый месяц они осуществили пять арестов и предотвратили несколько преступлений.
Подобный отдел заработал и в Лос-Анджелесе — и получил от журнала Time звание "одного из лучших изобретений 2011 года". Их программа генерирует на карте города "прогностические области", где высок риск преступления. Туда приезжают патрули и проверяют. "Мы предотвратили сотни и сотни случаев, когда люди пришли бы домой и увидели бы свои дома ограбленными. Даже самые большие скептики теперь приходят ко мне и говорят: "Думаю, это работает"", — говорит полицейский Шон Малиновский.
Приблизительно те же системы работают в Мемфисе и Чарльстоне (благодаря корпорации IBM). Прогнозами занимаются в Миннеаполисе. Пока эти системы вполне безобидны, но правозащитники уже указывают на то, что их прогнозы могут заставить полицию нарушить Конституцию США (в частности, Четвертую поправку, запрещающую необоснованные обыски и задержания). Европа тоже не отстает — Берлин, к примеру, вовсю использует систему PredPol (заимствованную, впрочем, у американцев). Город разбит на квадраты, районы, где могут произойти преступления, подсвечиваются. Что-то похожее, основанное на системах уличного наблюдения, работает и в Лондоне.
ПРЕДПОСЫЛКИ: Филип Дик, Джордж Оруэлл, Роберт Шекли и сериалы
Говоря "допреступление" — говоришь Филип Дик. Конечно, именно знаменитый американский фантаст и визионер оказался самым модным из всех, кто пугал нас этим. Рассказ "Особое мнение" подарил людям полицейскую антиутопию нового поколения — ту самую, которая нравится большинству людей потому, что в книге она работает и крайне эффективна. Но остается несправедливой по отношению к арестованному за несовершенное преступление меньшинству.
По книге сняли популярный голливудский фильм с тем же названием. Сюжет прост: появляются провидцы-мутанты, которые способны предсказать преступления до их совершения. Соответственно, полиция работает на опережение, задерживая потенциальных убийц. Главный герой — глава Допреступности Андертон попадает в этот список, узнает, что все провидцы видят разное будущее и что убийцы могут быть совсем даже не убийцами.
В фильме из-за этого система поимки убийц до убийства закрывается (чтобы частично вернуться в одноименном сериале, где как раз и внедряется "классическая компьютерная система" предсказания после кризиса "мутантной допреступности"). В книге — нет, из-за чего остается легкий привкус паранойи и жестокой реальности.
Задолго до Дика подобными вопросами занимался Генри Каттнер. В двух рассказах — "Недремлющее око" и "Двурукая машина" он исследует то, как именно можно обойти компьютерных надзирателей: как совершить преступление и остаться безнаказанным в мире, который находится под контролем. Где-то в то же время вышел и рассказ Роберта Шекли "Страж-птица". Там человечество обленилось до той степени, что поручило правосудие в руки птиц-роботов. Те расширили рамки слова "преступление" и начали нападать на всех подряд. Конечно, ни Каттнер, ни Шекли не говорили о предсказании преступлений — они просто фантазировали о мире, в котором одна из важнейших функций передана машинам. И, по сути, помогли Дику сформулировать собственную антиутопию.
Ну и конечно же, нельзя забывать о Джордже Оруэлле, Большом брате и мыслепреступлениях всех видов. Ведь, как мы помним, любое неосторожное слово — даже выражение лица — приводило жителей Океании в руки полиции мыслей. И это — тоже своеобразный способ предсказания будущих преступлений. Да, извращенный. Да, направленный на сохранение текущего строя. Да, страшный, варварский и плюющий на все человеческие права. Но достаточно действенный.
Но наиболее приближен к реальности сериал "В поле зрения" (он же — "Подозреваемые лица"). Что неудивительно — съемки начались несколько лет назад, когда современная "машинная" концепция допреступности уже существовала. Сюжет, вкратце, следующий: гений-затворник, разработавший Машину — искусственный квазиинтеллект, способный предсказывать преступления — и спрятавший ее от правительства, нанимает бывшего агента ЦРУ, чтобы спасать будущих жертв убийств. Почти все совпадает с тем, что происходит в реальности — кроме, естественно, самоотверженных главных героев.
АНТИСЛЕЖКА: макияж и очки
Если спрятаться от машин-прогнозистов в интернете очень просто — не заводить страничку в соцсетях (ха-ха!) или, во всяком случае, постараться не выкладывать туда всю личную информацию, то в реальном мире все гораздо сложнее.
Потому что полицейские и муниципальные камеры, частные системы видеонаблюдения в магазинах и кафе, видеорегистраторы в авто, камеры смартфонов, разнообразные "умные очки" и прочие глаза в банкоматах никогда не спят. Они видят, как вы идете по улице, куда заходите, что делаете, с кем общаетесь. Так что наиболее свободолюбивые личности уже нашли способ спастись от них.
Если нанести на лицо пару тройку пятен, они "разбивают" его на части.
Нет, вам не нужно крушить камеры. Не нужно замазывать их краской. Достаточно изменить себя. К примеру, два профессора из Токио — Исао Этидзен и Сэйити Госи — разработали очки с инфракрасными светодиодами. Этот свет невидим для глаз, но большинство камер очень чувствительны к нему. Поэтому включенные светодиоды превращают ваше лицо в расплывчатое пятно. Прототип выглядит грубовато, но подобная система легко встраивается в обычные очки — нужно просто найти миниатюрные диоды и батарею.
Немецкий художник и дизайнер Мартин Бакес разработал Pixelhead. Это обычная балаклава с необычным пиксельным изображением бывшего немецкого министра внутренних дел Ганса-Петера Фредерика, известного своим параноидальным отношением к интернету и сторонника полноценной слежки за гражданами.
Красивее всех сработал нью-йоркский художник Адам Харви. В своем проекте CV Dazzle он подобрал несколько вариантов причесок и макияжа, которые затрудняют работу алгоритму распознавания лиц. Получается, если нанести на лицо пару-тройку пятен (черно-белых, на скулах), они "разбивают" ваше лицо на несколько независимых изображений. Или создают "ложные цели" для алгоритмов. В своей работе Харви учился у военных — такой камуфляж использовали во время Первой мировой: широкие черно-белые полосы "ломали" силуэты военных кораблей, не давая определить их тип и размер. В том же сериале "Особое мнение" одна из героинь носит на лице специальные татуировки, защищающие от распознавания.
Главные темы