Нейросеть в камуфляже

К чему приведет применение искусственного интеллекта в военной сфере

Эксперты сравнивают применение искусственного интеллекта (ИИ) с пороховой революцией, которая полностью перевернула представление о стратегии и тактике боевых действий. Имеет ли нейросеть на военной службе огромный разрушительный потенциал, сможет ли она отличать комбатантов от мирного населения или станет оружием массового поражения, которое будет сметать все на своем пути, – в материале RSpectr.

СКАЖИ ВОЕННЫМ: ИНОГДА

Компания – разработчик технологий ИИ OpenAI обновила правила применения своего чат-бота GPT и сняла запрет на использование своих технологий в военной сфере, сообщили в середине января мировые СМИ. Позднее корпорация объявила о сотрудничестве с Пентагоном в сфере разработок ПО для кибербезопасности. Одновременно в Южной Корее заявили о планах по использованию тепловизионных систем наблюдения с ИИ на границе с КНДР.

Многие другие крупные ИТ-корпорации получают финансирование из военного бюджета, отметил в беседе с RSpectr основатель и CEO компании Mirey Robotics, эксперт по искусственному интеллекту Андрей Наташкин. Он напомнил об опыте американских технологических гигантов Google и Boston Dynamics, которые согласились на программы по внедрению собственных разработок на основе ИИ в военную индустрию.

ИМЕННО ВОЕННЫЕ РАСПОЛАГАЮТ ОГРОМНЫМИ БЮДЖЕТАМИ, И ПОЛУЧИТЬ ИХ – ЗАМАНЧИВОЕ ПРЕДЛОЖЕНИЕ ДЛЯ ЛЮБОЙ КОМПАНИИ

Сейчас ИИ в военной сфере применяется для управления автономными боевыми системами (дронами, беспилотными летательными аппаратами, боевой робототехникой), рассказал RSpectr руководитель департамента информационно-аналитических исследований компании T.Hunter Игорь Бедеров.

Игорь Бедеров, T.Hunter:

− Продвинутый военный ИИ может быть использован для улучшения точности оружия и систем наведения, анализа разведывательных данных, автоматизации обнаружения угроз.

Эксперт прогнозирует, что

К 2030 ГОДУ, ВЕРОЯТНО, НЕКОТОРЫЕ СТРАНЫ БУДУТ ОБЛАДАТЬ ИИ-ОРУЖИЕМ, КОТОРОЕ СТАНЕТ СОВЕРШАТЬ КИБЕРАТАКИ НА ИТ-СИСТЕМЫ ПРОТИВНИКА

Он обратил внимание на ажиотаж, связанный с развитием ИИ в различных сферах. Во многом термин «искусственный интеллект» – это уловка маркетологов и желание бизнесменов продвигать идею «могущественной» нейросети. Тем не менее в ближайшие пять-семь лет будут описаны и внедрены большинство антологий ИИ.

«К 2050 году это может привести к осознанию машиной себя в качестве полноправного участника отношений между людьми. Это не то осознание машиной себя как личности, о котором пишут в фантастических романах», – полагает эксперт.

ПОКА НЕ РЕВОЛЮЦИЯ

Известный тайваньско-американский ученый в области компьютерных технологий Ли Кайфу (Kai-Fu Lee) назвал

ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ ТРЕТЬЕЙ РЕВОЛЮЦИЕЙ В ВОЕННОМ ДЕЛЕ ПОСЛЕ ПОРОХА И ЯДЕРНОГО ОРУЖИЯ

«Эволюция от мин к управляемым ракетам была лишь прелюдией к настоящему автономному оружию с ИИ, способным к полному участию в убийстве – поиску, принятию решения вступить в бой и уничтожению другой человеческой жизни, полностью без участия человека», – отметил он.

Профессор Академии военных наук РФ, заведующий Центром глобальных исследований и международных отношений из Института актуальных международных проблем Вадим Козюлин уверен, что

В XXI ВЕКЕ ЗНАЧЕНИЕ ИИ В ВОЕННОЙ МОЩИ ГОСУДАРСТВА СТАНОВИТСЯ СРАВНИМЫМ С ЯДЕРНЫМ ОРУЖИЕМ

Вадим Козюлин, Академия военных наук РФ:

– Продвинутый искусственный интеллект может предоставить странам огромные возможности в сборе разведданных, определении целей, принятии решений, кибервойне и автономных системах.

Глава компании Mirey Robotics Андрей Наташкин считает сравнение с пороховой революцией некорректным.

Андрей Наташкин, Mirey Robotics:

− Речь не идет о создании принципиально нового класса оружия, кардинально меняющего стратегию и тактику вооруженных сил. По крайней мере, пока.

Военный эксперт, научный сотрудник Центра североамериканских исследований ИМЭМО РАН Илья Крамник сомневается в разрушительной силе искусственного интеллекта.

Илья Крамник, ИМЭМО РАН:

– Тот поражающий эффект от ядерного оружия несравним ни с чем. Никакое использование ИИ не может сравниться. Подобные технологии могут только усовершенствовать способы доставки ядерного оружия.

Генеративные технологии не способны на проявление эмоций, напомнил он. Между тем в Женевской конвенции указано, что оружие должно «не причинять чрезмерные страдания мирным жителям».

Вадим Козюлин также опасается, что

ПРИМЕНЕНИЕ НЕЙРОСЕТИ ПРИВЕДЕТ К ДЕГУМАНИЗАЦИИ ВОЕННЫХ ДЕЙСТВИЙ

Вадим Козюлин, Академия военных наук РФ:

− Еще по опыту применения ударных дронов Соединенными Штатами замечено, что удаленность операторов от театра военных действий переводит участие в военном конфликте в формат компьютерной игры.

Илья Крамник отметил, что ИИ – это продукт исключительно человеческой воли и решения. Все зависит от того, какие цели ставит воюющая страна. Эксперт считает, что в точности определения цели человек пока доминирует над ИИ-технологиями.

УСТАНОВИТЬ ПРАВИЛА

В 1942 году американский писатель-фантаст Айзек Азимов сформулировал принципы робототехники, основная мысль которых заключается в безопасности человека. Эти правила можно взять за основу будущих норм регулирования. Вопрос в том, нужно ли регулировать ИИ уже сейчас.

В феврале прошлого года на первом международном саммите по искусственному интеллекту в военной сфере была принята «Политическая декларация об ответственном использовании искусственного интеллекта и автономных систем в военных целях». Сейчас ее поддерживают более 50 стран. Декларация не имеет обязательной юридической силы и призвана «помогать государствам в разработке, развертывании и использовании этой технологии в оборонных целях, чтобы она способствовала соблюдению международного права, безопасности и стабильности».

Вадим Козюлин указывает на то, что работы над регулированием применения ИИ уже идут.

ТАКАЯ РАБОТА УЖЕ ВЕДЕТСЯ, ПОКА В РАМКАХ ФОРУМА ООН, КОТОРЫЙ НОСИТ НЕФОРМАЛЬНОЕ НАЗВАНИЕ «КОНВЕНЦИЯ О НЕГУМАННОМ ОРУЖИИ»

Илья Крамник полагает, что на данную тему пока еще рано говорить.

Илья Крамник, ИМЭМО РАН:

— Пока такие инициативы бесполезны. Они станут возможными, когда настанет кризис мироустройства, глобальный кризис, когда мир приобретет новое состояние.

С юридической точки зрения все-таки формирование норм регулирования искусственного интеллекта необходимо. Юрист, экономист, член комитета Торгово-промышленной палаты РФ по предпринимательству в сфере медиакоммуникаций Павел Катков отмечает, что

НА УРОВНЕ НАЦИОНАЛЬНОГО ЗАКОНОДАТЕЛЬСТВА ЭТО УЖЕ ДЕЛАЕТСЯ, В ТОМ ЧИСЛЕ И В РОССИИ

Большинство экспертов сошлись во мнении, что ИИ в военной сфере нельзя приравнивать к ядерному оружию. Сейчас нейросети используются как вспомогательные технологии. Пока о создании принципиально нового оружия речи не идет.

И хотя пока сравнение ИИ с пороховой революцией в военной сфере не имеет достаточных оснований, такие технологии могут стать еще одним источником сдерживания военных конфликтов, помимо наличия ядерного оружия.

Несмотря на то что ИИ лишен чувств, он все-таки будет подвластен человеческой воле. Поэтому будет выполнять стратегические задачи, которые ставят воюющие государства. Но возможность ошибки нельзя исключать. Принять скопление людей за военную группировку может как человек, так и дрон с ИИ.

Вопрос регулирования остается актуальным. Это долгий и трудоемкий процесс, который требует согласования всех сторон.

Анастасия Солянина