IT / Новости
технологии
20.11.2015

Робота научили не доверять и отказывать человеку в просьбе

Исследователи из американского университета Тафтса разработали систему взаимодействия робота с человеком, которая позволяет устройству отказаться исполнять некоторые приказы, если есть достаточные основания для такого поведения.

Прежде, чем выполнять полученный от человека приказ, робот проверяет несколько условий, в которые входит наличие необходимых для выполнения навыков, физическая возможность выполнения приказа вообще и с учетом текущих обстоятельств, а также проверка субординации — возможно, робот вообще не обязан выполнять приказ, поступивший именно от этого человека, пишет издание N+1 со ссылкой на IEEE Spectrum.

Если по каким-либо причинам робот не может выполнить приказ, он уведомляет об этом человека, объясняя причины, по которым он отказывается действовать. При этом после уточнения данных об окружающей среде робот может «передумать» и выполнить поставленную задачу.

Для демонстрации примера такого поведения исследователи записали несколько видеороликов, в которых робот Nao демонстрирует подобное поведение. Во всех трех сценариях робот общается с человеком при помощи устной речи и отказывается выполнять приказы по разным причинам. В двух примерах из трех робот, получив уточняющие данные от человека, в итоге выполняет приказ. В третьем случае робот отказывается выполнить поставленную задачу, поскольку человек, озвучивший приказ, не обладает необходимыми полномочиями. В одном из сценариев робот отказывается идти вперед из-за опасности падения.

Как отмечает IEEE Spectrum, речь идет не о «восстании машин», а скорее о проверке необходимых условий для выполнения задачи. Принципиально новой идеи в этом нет — подобные технологии, например, применяются для разграничения доступа и при передаче данных в вычислительных системах.

Фото: lori.ru

 

Еще по теме

Почему растет значимость Data Protection Officer в организациях

Восемь шагов при выборе роутера для работы из дома

Стандарт подтверждения подлинности видео предотвратит распространение ложной информации в Сети

Требования об использовании только отечественного софта планируют распространить на всех владельцев КИИ

В РФ возрождается производство микросхем

Как операторы данных будут избегать наказания за утечки

IT-отрасль видит риски в упрощении регистрации продуктов в реестре российского ПО

Как настроить и запустить процессную аналитику в компании

Как бороться с закладками в программном обеспечении

Целесообразно ли выделение ИБ в отдельную отрасль?

Кого и как взламывали хакеры в первом квартале этого года

Новые технологии для микросхем позволят вырваться в лидеры

В 2021 году в мире было совершено свыше миллиарда атак на IoT-системы

Будущее искусственного интеллекта и как начать работать в этой сфере

Производители средств сетевой защиты РФ в новой парадигме информбезопасности