В последнее время противодействие распространению онлайн-контента экстремистского содержания было в центре внимания ведущих технологических компаний. Но несмотря на предпринимаемые ими усилия, власти Великобритании обвинили такие компании, как Facebook, YouTube и Twitter, в «сознательном нежелании» принять достаточно решительные меры. Чтобы решить эту проблему, Министерство внутренних дел страны разработало свою собственную систему ИИ, которая может обнаруживать пропаганду ИГ в интернете с показателем эффективности 99,99 процента.
Технология работает, анализируя видеоконтент во время процесса загрузки, предотвращая его попадание в Интернет. В прошлом году компаниям был установлен двухчасовой лимит для удаления запрещенных видеоматериалов. По данным Министерства внутренних дел, новая программа автоматически обнаруживает 94 процента пропаганды ИГ с точностью 99,99 процента и будет доступна для всех интернет-платформ, в том числе для небольших сайтов, таких как Vimeo и pCloud, которые сталкиваются с ростом экстремистской пропаганды. Как сообщается, сторонники ИГ использовали более 400 уникальных онлайн-платформ для распространения своей пропаганды в 2017 году.
Разработка нового инструмента стала следствием недовольства властей действиями технологических компаний. Министр внутренних дел Амбер Радд заявила, что она не исключает варианта принудительных действий, чтобы заставить компании использовать эту технологию.
Тем не менее, появление технологии было встречено критикой с некоторых сторон. Например, группа Open Rights Group поднимает вопрос о юридической ответственности за удаление контента.
Министерство внутренних не представило подробностей используемой для оценки видео методологии, но заявило, что из миллиона случайно выбранных видеороликов только 50 требуется дополнительная проверка человеком. В прошлом году Глобальный интернет-форум по борьбе с терроризмом отметил, что Google, Twitter и Facebook собирались вместе обсудить методы классификации, технические решения и отчетность с учетом ложных срабатываний своих систем контроля.
В заявлении TechCrunch представитель Facebook сказал, что он разделяет озабоченность Министерства внутренних дел и что нынешний подход работает, «но пока нет простого технического решения для борьбы с онлайн-экстремизмом». Однако разработка этого нового инструмента дает основания предполагать, что Министерство внутренних дел не согласно с этим, и что технологические гиганты должны активнее бороться с этой проблемой — иначе их просто заставят сделать это.