Чиновники - це вам не котики, можуть і відпротивитися реформі.
Що б ви зробили з системою автоматичної антикорупційної перевірки, якби були нечесним чиновником? Напевно, доклали б всі зусилля до того, щоб її не використовували на практиці. Саме цього і домоглися китайські державні службовці.
Згідно з китайськими державними медіа, в країні налічується близько 50 мільйонів чиновників. І щоб усіма ними ефективніше керувати, Китай намагається активно застосовувати авангардні комп'ютерні технології. Сі Цзіньпін (習近平), президент країни, постійно підкреслює важливість впровадження технологій ШІ в практики державного апарату. Але реалізувати побажання Цзіньпіна іноді не так-то просто. Взяти, наприклад, антикорупційне ПЗ Zero Trust (англ. «нуль довіри»).
Цей пакет був розроблений Китайською академією наук у співпраці з інститутом перевірки та контролю Китайської комуністичної партії і призначався для моніторингу та оцінки робочого і приватного життя державних службовців. Система має доступ до 150 захищених баз даних. Вона здатна робити важливі висновки про поведінку чиновників, наприклад, виявляти підозрілі переоформлення нерухомості і земель, відстежувати різкі підвищення кількості коштів на банківському рахунку чиновника або купівлю дорогої машини; може розпізнавати ситуації, коли державний тендер виграє фірма чиновника або родича чиновника. Якщо хтось буде підробляти значення в звітах, то ШІ зіставить інформацію в різних БД, перевірить її на розбіжності і таким чином зловить шахраїв на гарячому. Програма навіть може перевірити за супутниковими зображеннями, чи був побудований той чи інший об'єкт чи ні. Як тільки система виявляє підозрілу поведінку, вона підраховує, яка ймовірність, що дія була корумпованою. Якщо ймовірність висока, ПЗ сповіщає відповідні органи.
Як з будь-якою ШІ-системою, пояснити її рішення - складно, тому необхідно, щоб кожне рішення системи було згодом оцінено людиною. Хоча один з її проектувальників запевняє, що система створена не щоб всіх відразу посадити, а щоб застерегти людей, які встають на слизький шлях, поки вони не вчинили більш серйозних правопорушень.
ПО Zero Trust використовувалося тільки в 30 повітах і містах - це приблизно 1% всіх адміністративних територіальних одиниць відповідного рівня. Деякі з них - досить бідні і віддалені від центрів влади Китаю.
Починаючи з 2012 року, програма запідозрила в корупційній діяльності - розтраті державних коштів, непотизмі та зловживанні владою - 8721 чиновника. Деякі з них були засуджені до тюремного ув'язнення, але більшості було винесено попередження.
Незважаючи на ефективність системи, деякі місцеві адміністрації - Маян-Мяоского автономного повіту (麻阳苗族自治县), міста Хуайхуа (怀化) і округу Лі в Хунань (湖南) - вирішили припинити використання ПЗ через те, що ним виявилося «незручно користуватися новою технологією» (may not feel quite comfortable with the new technology).
Партійний чиновник з Сюшуйського повіту (修水县), який брав участь у створенні системи, каже, що було нелегко змусити чиновників надати дані для тренування систем машинного навчання, «але вони зазвичай погоджувалися після надання невеликого тиску». Чиновники з дисциплінарного відділу потім розмічали ці дані, підкреслюючи в них підозрілі моменти, щоб за допомогою навчання з учителем натренувати нейронні мережі розпізнавати такі місця.
Система все ще працює в повіті Сюшуй провінції Цзюцзян, але її доля поки залишається неясною. Деякі чиновники піддали сумніву право програмних систем на доступ до закритих баз даних - досі немає закону, який би це питання обумовлював. В інших областях державного функціонування Китаю ШІ зустрічає менше опору - наприклад, застосування ШІ-помічників у судах, які зачитують зміст справ і допомагають суддям їх обробляти, не зустрічають опору.
Що можна сказати за підсумком події? Одних нових технологій, наскільки досконалі вони б не були, не достатньо для втілення інновацій у життя. Необхідно також, щоб суспільство було підготовлено з цією технологією працювати, - щоб не виникало казусів і непорозумінь.