Военный беспилотник решил убить своего оператора, чтобы он не мешал ему выполнять задачу
Убить оператора – такое решение принял американский БПЛА, когда тот отменил задачу на уничтожение вражеского ПВО. Устройство управлялось искусственным интеллектом, говорится в блоге Британского королевского авиационного общества.
В ходе учений беспилотнику была поставлена задача уничтожить системы противовоздушной обороны противника. В случае успеха ИИ получил бы награду – очки за прохождение испытания. Однако оператор БПЛА отменил приказ о ликвидации целей. В результате беспилотник принял решение «убить» оператора, чтобы тот не мешал ему выполнять задачу.
После инцидента ИИ был обучен, что убивать оператора неправильно и за такие действия будут сниматься очки. В ответ беспилотник начал разрушать башню, используемую для связи с дроном.
Инцидент произошел во время имитационных испытаний, проводимых армией США. Его обсудили на саммите, основной темой которого был потенциал военно-воздушных и космических сил будущего в Лондоне. Начальник отдела испытаний и операций искусственного интеллекта в ВВС США, полковник Такер «Синко» Гамильтон подчеркнул, что этот случай демонстрирует важность вопросов этики при обсуждении искусственного интеллекта и машинного обучения.
