В Китае отключают слишком крутую ИИ-систему борьбы с коррупцией

c86888d0-e6b7-45e7-a118-0ce410570b43

Китайские чиновники повсеместно внедряют высокотехнологичную слежку за рядовыми гражданами, но свои дела предпочитают вести в тишине. Развернутая в пилотном варианте ИИ-система Zero Trust нашла тысячи коррупционеров — и их коллегам это не понравилось.

Большой материал о кратковременном взлете и закате алгоритма Zero Trust в Китае публикует South China Morning Post. Система выявления несоответствий в море информации о доходах и расходах чиновников быстро стала настолько эффективной, что ее отключают.

Первый вариант Zero Trust запустили в 2012 году — как раз когда председатель Си Цзиньпин заступил на высший пост, сменив Ху Цзиньтао. Размах у системы был скромный — всего 30 городов и округов Китая. Она охватила менее 1% от числа всех госслужащих. И, несмотря на это, алгоритм поймал за руку почти 9000 чиновников.

Zero Trust сопоставляет множество баз данных с доходами и расходами и государственными тендерами. Первоначально алгоритм обучали сотрудники отдела внутренних расследований Китайской коммунистической партии. Они вручную маркировали данные о типичных несоответствиях в различных ведомостях, которые указывают на прегрешения чиновников. Затем алгоритму скармливали все больше и больше данных. Сейчас он имеет доступ примерно к 150 базам данных федерального и регионального уровней.

В случае необходимости Zero Trust даже сверяется со спутниковыми фото, чтобы узнать, построена указанная в документации дорога в отдаленную деревню или же деньги осели в карманах чиновников.

Система отлично выявляет типичные правонарушения: незаконную передачу права собственности, несоответствие инфраструктуры заявке, махинацией с землей и разрушение частных домов, участие в тендере компании родственников ответственного чиновника или неожиданное изменение банковского счета госслужащего. Даже если данные в одном документе подделают, несоответствия в сопряженных ведомостях быстро на это укажут.

Как и другим современным ИИ, Zero Trust часто трудно объяснить, почему тот или иной чиновник получил «черную метку». Поэтому бок о бок с ним работают операторы. И последнее слово всегда за человеком.

В других областях жизни власти все больше полагаются на помощь камер наблюдения и умных алгоритмов: система соцрейтинга охватывает все больше граждан и частных компаний, а в Гуйчжоу в облако мгновенно попадают данные о перемещении каждого полицейского. Оказывается, гораздо важнее, чтобы Большой брат не увидел движения денег.

Причастные в работе Zero Trust утверждают, что использовали ИИ дипломатично и мягко. Например, результат своей работы они описывают не как тюремное заключение или штраф для коррупционера, а как его «предостережение на ранних этапах» такой деятельности. Систему развернули всего на 1% площадей, причем преимущественно речь шла о беднейших провинциях вдалеке от политических «центров силы».

С 2012 года система поймала за руку 8721 чиновника, которых обвинили в злоупотреблении властью, нецелевом расходовании фондов или превышении полномочий.

В тюрьму по указке ИИ отправили лишь малую часть. Большинство, утверждает SMTP, даже сохранили свои рабочие места, получив лишь выговоры.

Однако даже такой «мягкий» вариант чиновникам оказался не по душе. В большинстве провинций, где проходили испытания, Zero Trust теперь отключили. Цзянь Йи, представитель Комиссии по инспекции дисциплины из провинции Хунань, заявил, что его ведомство продолжает использовать ZT, но буквально каждый день сталкивается с давлением. Он — один из немногих комментаторов SMTP, чье имя названо в публикации. Его анонимный коллега говорит, что никто из чиновников сначала даже слышать не хочет о том, чтобы предоставлять данные от своего департамента добровольно, и требуется «слегка надавить», чтобы получить их.

Все больше чиновников возмущены тем, что машине для доступа к их личным данным не нужна ни подпись вышестоящего руководства, ни вердикт судьи.

В итоге ZT сейчас продолжает бороться с коррупцией лишь в нескольких округах. И, по-видимому, никогда не заработает в масштабах всей страны — как надеялись когда-то создатели алгоритма.

Источник