Роботов научили отказываться выполнять приказы

20 Ноября 2015 0

Исследователи из Университета Тафтса разработали систему взаимодействия робота с человеком, которая позволяет устройству отказаться исполнять некоторые приказы, если есть достаточные основания для такого поведения. Доклад о проделанной работе был представлен на конференции AI-HRI, сообщает N+1.

Прежде чем выполнять полученный от человека приказ, робот проверяет несколько условий, в которые входит наличие необходимых для выполнения навыков, физическая возможность выполнения приказа вообще и с учетом текущих обстоятельств, а также проверка субординации — возможно, робот вообще не обязан выполнять приказ, поступивший именно от этого человека.

Если по каким-либо причинам робот не может выполнить приказ, он уведомляет об этом человека, объясняя причины, по которым он отказывается действовать. При этом после уточнения данных об окружающей среде робот может «передумать» и выполнить поставленную задачу.

Для демонстрации примера такого поведения исследователи записали несколько видеороликов, в которых робот Nao демонстрирует подобное поведение. Во всех трех сценариях робот общается с человеком при помощи устной речи и отказывается выполнять приказы по разным причинам. В двух примерах из трех робот, получив уточняющие данные от человека, в итоге выполняет приказ. В третьем случае отказывается выполнить поставленную задачу, поскольку человек, озвучивший приказ, не обладает необходимыми полномочиями.

Речь идет не о «восстании машин», а скорее о проверке необходимых условий для выполнения задачи. Принципиально новой идеи в этом нет — подобные технологии, например, применяются для разграничения доступа и при передаче данных в вычислительных системах.

Boeing на батарейках: Boeing 737 хотят заменить электрическим...

На авиалиниях малой протяженности такая замена удешевит полеты, так как авиационное...

Марс удивил человеческой скульптурой, замеченной на...

Небольшую тридцатисантиметровую статую уже назвали памятником марсианину

Бывший топ-менеджер «ПриватБанка» готовит захват...

Дмитрий Дубилет: «Это будет крутое, крутейшее приложение, которое сначала захватит...

Под украинские ракеты будет построен космодром в...

Вместо Бразилии ракеты «Южмаша» будут запускать Канада и США

NASA удивило фотографиями причудливого спутника ...

Соцсети гадают, на что похож Пан, впервые сфотографированный вблизи

Комментарии 0
Войдите, чтобы оставить комментарий
Пока пусто
Блоги

Авторские колонки

Ошибка