ИТ / Новости
технологии
2.6.2023

Военный беспилотник решил убить своего оператора, чтобы он не мешал ему выполнять задачу

Убить оператора – такое решение принял американский БПЛА, когда тот отменил задачу на уничтожение вражеского ПВО. Устройство управлялось искусственным интеллектом, говорится в блоге Британского королевского авиационного общества.

В ходе учений беспилотнику была поставлена задача уничтожить системы противовоздушной обороны противника. В случае успеха ИИ получил бы награду – очки за прохождение испытания. Однако оператор БПЛА отменил приказ о ликвидации целей. В результате беспилотник принял решение «убить» оператора, чтобы тот не мешал ему выполнять задачу.

После инцидента ИИ был обучен, что убивать оператора неправильно и за такие действия будут сниматься очки. В ответ беспилотник начал разрушать башню, используемую для связи с дроном.

Инцидент произошел во время имитационных испытаний, проводимых армией США. Его обсудили на саммите, основной темой которого был потенциал военно-воздушных и космических сил будущего в Лондоне. Начальник отдела испытаний и операций искусственного интеллекта в ВВС США, полковник Такер «Синко» Гамильтон подчеркнул, что этот случай демонстрирует важность вопросов этики при обсуждении искусственного интеллекта и машинного обучения.

Изображение: RSpectr, Adobe Stock

Еще по теме

За счет чего российская цифровая техника будет востребована за рубежом

Как изменились подходы и скорость цифровизации за последние 20 лет

Почему будущих специалистов по информбезопасности разбирают еще со школы

Новые схемы интернет-мошенников и как им противостоять

Почему буксует импортозамещение электронных компонентов

Почему рынок коммерческих дата-центров нуждается в регулировании

Что ждет начинающего тестировщика в 2024 году

Как найти перспективные зарубежные рынки для российских решений

Какие угрозы несет интернет тел человечеству

Успеют ли банки заменить импортный софт и оборудование до 2025 года

Зачем компании вкладывают деньги в ИТ-состязания?

Импортозамещение и внутренняя разработка ПО в страховании

Почему рынок информационных технологий РФ возвращается к классической дистрибуции

Что сделано и не сделано в цифровизации России за 2023 год

Как заботу о вычислениях переложить на вендоров и почему не все к этому готовы