В октябре Пекинский технологический институт, одно из ведущих военных исследовательских учреждений страны, отобрал 31 подростка из более 5 тысяч заявителей. Как рассчитывают китайские власти, эти молодые люди разработают новое поколение оружия, оснащённого искусственным интеллектом (ИИ) – сюда могут относиться микроскопические роботы, компьютерные вирусы, подводные лодки, дроны, танки.
Подпись к изображению: Владимир Путин обращается по видеосвязи к участникам международного военно-технического форума «Армия»
Подобные планы выступают мощным напоминанием о том, в каком направлении может развернуться основная гонка вооружений. Увеличение вычислительной мощности и усовершенствование программ с алгоритмами самообучения создают новые возможности как для войны, так и для управления государством.
По оценкам Consultancy PwC, к 2030 году вклад оснащённых ИИ систем в мировую экономику может достигнуть 15,7 триллиона долларов, причем ведущими игроками, вероятно, станут Китай и США. Однако наибольшее беспокойство у правительств вызывают потенциальные военные последствия. С одной стороны, присутствует боязнь отставания, с другой – опасения по поводу того, что непроверенные технологии могут принести новые опасности.
Руководители Пентагона попросили Совет по военным инновациям – собрание высокопоставленных деятелей Силиконовой долины, предоставляющих вооружённым силам США технические консультации – разработать набор этических принципов использования ИИ на войне. В прошлом месяце Франция и Канада объявили о создании международной экспертной группы для обсуждения аналогичных вопросов. До сих пор западные государства придерживались мнения, что жизненно важные решения в конфликте всегда должны приниматься людьми, а компьютеры и алгоритмы просто способствуют их выполнению. Однако некоторые страны – особенно Россия и Китай – рассматривают другой путь.
В прошлом году Россия сообщила об удвоении инвестиций в ИИ. Ранее в этом месяце было заявлено, что к середине 2019 года Москва опубликует новую «дорожную карту» национальной стратегии ИИ, который рассматривается российскими чиновниками как ключ к доминированию в киберпространстве и информационных операциях. Предполагаемые российские «фермы троллей», как считается, уже используют автоматизированные ленты новостей в социальных сетях для продвижения дезинформации.
Эксперты утверждают, что для создания продвинутой системы с ИИ необходимы подходящие вычислительные мощности, достаточное количество данных для обучения и способные исполнители. Будучи самыми могущественными в мире авторитарными государствами, Россия и Китай обладают подобными возможностями и намереваются использовать ИИ как для поддержания позиций правительства на своей территории, так и для победы над врагами за её пределами.
Пекин уже использует массовое автоматизированное наблюдение, в том числе программное обеспечение для распознавания лиц, для подавления инакомыслия, особенно на северо-западе, населённом мусульманами-уйгурами. Вероятно, такие системы, будут становиться всё более мощными по мере совершенствования технологий. Когда речь идёт о мониторинге коммуникаций своих граждан, у Китая (как и у России) гораздо меньше сомнений и механизмов регулирования, чем у западных государств.
Западные демократии, и особенно Америка, традиционно оказывались более способными, чем диктатуры, к использованию новых технологий. Однако когда дело дошло до ИИ, старания Вашингтона наладить связи между Силиконовой долиной и вооружёнными силами столкнулись с рядом проблем. В июне сотрудники Google вынудили компанию отказаться от продления контракта с Пентагоном. Многие учёные не горят желанием работать над оборонными проектами из опасения, что в конечном итоге они создадут неуправляемых роботов-убийц.
Тем не менее, США и их союзники создают собственное автономное оружие. Так, в октябре Microsoft без особого шума объявила, что намерена продать Пентагону любые передовые системы ИИ, которые потребуются для «создания сильной обороны». Руководители ВВС США утверждают, что их засекреченный будущий ударный самолёт большой дальности, предназначенный для замены малозаметного бомбардировщика B-2 , сможет работать как с экипажем, так и без него. Западные военные вкладывают всё больше средств в беспилотные грузовики и другие транспортные средства снабжения, стремясь возложить на них побольше «грязных, скучных и опасных» задач на поле боя, не рискуя человеческими жизнями.
Предполагается использование «роев» дронов, когда многочисленные беспилотные аппараты управляют собой сами. Когда речь идёт о сражении дронов с дронами, у западных лидеров не возникает проблем с позволением беспилотным системам принимать собственные решения. Но если в бою участвуют люди, политика американского Министерства обороны требует, чтобы решения принимались человеком. Однако такое управление может становиться всё более затруднительным, особенно если автоматизированные системы противника принимают решения гораздо быстрее человека.
Как ожидается, к началу 2020-х годов большие китайские беспилотные подлодки, которые могут нести оружие, окажутся в мировом океане. Их целью будут силы противников в спорных районах, таких как Южно-Китайское море. Подобные суда могут преодолевать огромные расстояния, оставаясь незамеченными в течение длительных периодов времени. На данный момент китайские учёные утверждают, что принятие решения об атаке останется за людьми, но возможно, это не совсем так. В январе прошлого года Пентагон сообщил, что Россия также строит большие беспилотные атомные подлодки, возможно, способные нести ядерное оружие.
Кроме того, и Москва, и Пекин отдают предпочтение беспилотным танкам-роботам, причём Россия уже испытывает свои новейшие разработки в Сирии. Такие системы могут значительно усложнить западным командирам принятие решений по определению целей на поле боя из-за отсутствия понимания, находятся ли в боевой технике люди. Ошибки могут стать причиной начала конфликта или его резкого обострения.
Как сообщается, для указанной программы Пекинского технологического института отбирали тех подростков, кто изъявил «готовность к бою». Подобная расстановка приоритетов может оказаться очень опасной, учитывая, что технологии недостаточно испытаны и обладают значительной разрушительной силой.