Роботов научили отказываться выполнять приказы

20 Ноября 2015 0

Исследователи из Университета Тафтса разработали систему взаимодействия робота с человеком, которая позволяет устройству отказаться исполнять некоторые приказы, если есть достаточные основания для такого поведения. Доклад о проделанной работе был представлен на конференции AI-HRI, сообщает N+1.

Прежде чем выполнять полученный от человека приказ, робот проверяет несколько условий, в которые входит наличие необходимых для выполнения навыков, физическая возможность выполнения приказа вообще и с учетом текущих обстоятельств, а также проверка субординации — возможно, робот вообще не обязан выполнять приказ, поступивший именно от этого человека.

Если по каким-либо причинам робот не может выполнить приказ, он уведомляет об этом человека, объясняя причины, по которым он отказывается действовать. При этом после уточнения данных об окружающей среде робот может «передумать» и выполнить поставленную задачу.

Для демонстрации примера такого поведения исследователи записали несколько видеороликов, в которых робот Nao демонстрирует подобное поведение. Во всех трех сценариях робот общается с человеком при помощи устной речи и отказывается выполнять приказы по разным причинам. В двух примерах из трех робот, получив уточняющие данные от человека, в итоге выполняет приказ. В третьем случае отказывается выполнить поставленную задачу, поскольку человек, озвучивший приказ, не обладает необходимыми полномочиями.

Речь идет не о «восстании машин», а скорее о проверке необходимых условий для выполнения задачи. Принципиально новой идеи в этом нет — подобные технологии, например, применяются для разграничения доступа и при передаче данных в вычислительных системах.

Загрузка...
Загрузка...

Чертово колесо без живота, но на хребте дракона

В Китае построили первое в мире "кольцо обозрения"

SpaceX поможет организовать похороны в космосе всего за...

Аппарат будет выведен на гелиостационарную орбиту, благодаря чему «прах побывает...

NASA зафиксировало 866 странных желто-голубых вспышек...

Желто-голубые вспышки не являются признаками разумной жизни

Они МР3 породили, они его и убили

Обладатели записей mp3 смогут по-прежнему воспроизводить их на своих устройствах

Латвийский парашютист открыл эру прыжков без...

На необходимую высоту он взлетел на беспилотнике

Китайцы попробуют жить на Луне

Две группы, чередуясь, проведут в лунных реалиях 365 дней

Комментарии 0
Войдите, чтобы оставить комментарий
Пока пусто
Блоги

Авторские колонки

Ошибка