Людям не нравится перспектива потери своего статуса вершины пищевой цепочки. Позволить, чтобы наше собственное творение обрело над нами власть, не вполне соответствует нашим представлениям о будущем. Именно поэтому такие парни, как создатель «Tesla» Илон Маск и известный астрофизик Стивен Хокинг так настойчиво предостерегают нас от ужасных последствий, которые могут завершиться в духе сюжета фильма «Терминатор», где роботы и алгоритмы вышли из подчинения человечества.
«Google» полон решимости не допустить подобного, о чем свидетельствует недавняя публикация документа, в котором описывается работа принадлежащей ему компании «Deep Mind», стремящейся создать нечто вроде «аварийного выключателя», чтобы предотвратить подобной бедствие, получившее уже собственное название «робокалипсис».
В сущности «Deep Mind» разработала механизм, с помощью которого искусственный интеллект (ИИ) будет лишен возможности научиться предотвращать или игнорировать вмешательство человека в его работу. Человеческое вмешательство для предотвращения ущерба необходимо, поскольку опасность выхода самообучающихся алгоритмов из-под контроля вполне реальна. Этот механизм меняет задачу для робота, заставляет его принять человеческое вмешательство как часть программы, а не экстренную ситуацию.
«Функция изменения задач в целях безопасности может быть полезна для контроля робота, который работает неправильно, поскольку это теоретически может привести к необратимым последствиям. Кроме того, вмешательство также может быть необходимо, чтобы вытащить робота из особенно щекотливых ситуаций, или даже, в особых случаях, для выполнения задач, к которым робот изначально не был подготовлен», пишут исследователи.
Пока компания «Deep Mind» не уверена, что созданные механизмы вмешательства могут быть применимы ко всем алгоритмам. Конкретнее, это касается программ, входящих в систему машинного обучения. Исходя из этого, похоже, предстоит еще много сделать, прежде чем эти механизмы смогут получить универсальное применение, а человечество получит гарантию от «восстания машин».