Роботов можно обучить этическому поведению через чтение детских книжек | Gearmix
19.02.2016 13:01

Роботов можно обучить этическому поведению через чтение детских книжек

Источник перевод для gearmix ()

Успехи в развитии технологий искусственного интеллекта спровоцировали определённую тревогу, что роботы могут представлять угрозу для человечества. Чтобы преодолеть эти страхи, команда исследователей разработала метод, позволяющий обучать искусственный интеллект тому, как правильно вести себя в различных социальных ситуациях.

mark-riedl

Новая технология называется «Дон-Кихот», и она учит роботов читать детские рассказы, понимать нормы приемлемого социального поведения в обществе и определять стандартную последовательность событий. Новая технология была разработана группой учёных из Технологического института Джорджии.

Руководитель институтской лаборатории Марк Ридл говорит, что они считают, если роботы смогут понять сюжеты рассказов, то будут избегать «психотических проявлений в поведении» искусственного интеллекта и действовать таким образом, чтобы не причинить вреда человеку при выполнении поставленных задач.

«Дон-Кихот» представляет собой способ «смысловой настройки», позволяющей связывать задачи роботов с соответствующим поведением в социальных ситуациях. Метод учит роботов в ожидании награды поступать как герои детских книжек.

Например, робот, который должен забрать лекарство по рецепту для человека, может выбрать один из следующих вариантов: ограбить аптеку, чтобы получить нужное лекарство и убежать; пообщаться с фармацевтами; или терпеливо ждать своей очереди.

Без новой методики роботы могут посчитать, что ограбление или кража лекарства является самым быстрым и наиболее недорогим способом выполнения задания. Между тем, совместив свои цели с социально принятыми нормами поведения, робот понимает, что он будет вознаграждён, если выберет второй или третий вариант.

«Технология лучше всего подходит для роботов, которые имеют ограниченные цели, но для их выполнения должны взаимодействовать с людьми. Пока это первый примитивный шаг к общей моральной аргументации для искусственного интеллекта», — говорит Ридл. Он добавляет, что наиболее практичным способом научить согласовывать ценностные значения для робота это обучать его чтению и пониманию детских книг без использования человеческого руководства для пользователя.



ПОХОЖИЕ ЗАПИСИ


© Gearmix 2013
Права на опубликованный перевод принадлежат владельцам вебсайта gearmix.ru
Все графические изображения, использованные при оформлении статьи принадлежат их владельцам. Знак охраны авторского права распространяется только на текст статьи.
Использование материалов сайта без активной индексируемой ссылки на источник запрещено.

Комментарии запрещены.