Нулевое доверие

Начиная с 2012 года сложная система искусственного интеллекта переработала горы информации с целью обнаружения признаков коррупции среди китайских чиновников, однако теперь во многих регионах местные власти пытаются его отключить, сообщает South China Morning Post.

Один разработчик, принимавший участие в работе над программой, имеющей суровое название «Нулевое доверие» (НД), сообщил гонконгской газете о том, что местные чиновники стремятся отключать программу, поскольку она причиняет им определенные неудобства.

Однако SCMP смотрит на это иначе – просто искусственный интеллект работает слишком эффективно.

Всплеск коррупции

Из статьи становится понятно, что НД тщательно анализирует банковские данные, данные из имущественных реестров и реестров недвижимости, и даже данные со спутников, чтобы выявить признаки коррупции. Программа НД способна заметить подозрительный денежный перевод или, к примеру, новый автомобиль или иное ценное имущество, зарегистрированное на членов семьи или друзей госслужащего.

Чжан И, чиновник из провинции, в которой данное программное обеспечение ещё используется, сообщил, что результат работы НД берётся за основу для последующей работы по проверке и подтверждению полученных данных. Окончательное решение остаётся за человеком, а не за машиной.

Алгоритм правосудия

Несмотря на широкое распространение коррупции в Китае, чиновники, возможно, правы в своём недоверии к этому алгоритму, принципы работы которого скрыты в чёрном ящике, но, тем не менее, он может обрушить на свою жертву молот правосудия, не утруждая себя какой-либо аргументацией.

Неназванный разработчик программы говорит, что ИИ способен быстро определить коррумпированного чиновника, но не может достаточно понятно разъяснить последовательность действий, которые привели его к этому заключению. Поэтому, несмотря на то, что в большинстве случаев выводы ИИ верны, для работы с ним требуется человек.


Добавить комментарий