Осенью 1941 года, когда бушевала война в Европе и России, писатель-фантаст Айзек Азимов написал короткий рассказ о далеком-далеком будущем.

HRP2-Tokyo

Азимов представлял, что в будущем все роботы будут следовать следующим трём законам:

  • Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

 

  • Робот должен подчиняться приказам, отданных ему людьми за исключением случаев, когда эти приказы противоречат первому закону.

 

  • Робот должен защитить свое собственное существование, пока такая защита не противоречит первому или второму законам.

 

Сегодня роботы не настолько разумны, как предполагал в своей книге Азимов, но в самом ближайшем будущем, хотя, возможно, в течение жизни одного поколения, роботы, будут умнее и сильнее, чем робот-пылесос Roomba.

Roomba880

Технологический прогресс неизбежен

В Асиломаре в 2009 году исследователи и роботостроителей собрались вместе, чтобы обсудить свои проблемы, начиная от вероятности того, что искусственный интеллект превзойдет органическое разнообразие к 2023 году  и, что новый ящик Пандоры генетики, нанотехнологий и робототехники почти открыт, но мы вряд ли это замечаем.

Физик Стивен Хокинг, предприниматель Илон Маск и соучредитель компании Apple Стив Возняк одни из почти двадцати тысяч подписавших письмо, призывающее к запрету применения «автономных оружейных систем».

Мировая гонка вооружений практически неизбежна, и конечная точка очевидна: автономное оружие станет автоматом Калашникова завтрашнего дня. В отличие от ядерного оружия, оно не требуют дорогостоящего обслуживания, поэтому станет дешевым и доступным для всех военных держав и для массового производства.  Вопрос времени, когда они появятся на черном рынке и окажутся в руках террористов и диктаторов.

KAIST-at-the-Door

Хокинг и Маск считают, что военные технологии высвободят «демона», представляющего угрозу человечеству.

Но многие утверждают, что это же оружие необходимо использовать для борьбы с теми же ИГИЛ и другими террористами. А так же необходимо ужесточить контроль над производством этого оружия, чтобы не допустить его попадания в злые руки.

 


Добавить комментарий