Внимание исследователей в Соединенных Штатах и других странах все больше привлекает перспектива стремительного роста уровня автоматизации нового ядерного оружия и инфраструктуры для его эксплуатации, и прежде всего, внедрение в эти системы искусственного интеллекта.
В прошлом месяце три видных американских военных эксперта опубликовали статью, содержащую всесторонний анализ тенденций использования автоматики в системах контроля и управления ядерным оружием, а также наиболее опасных сценариев, которые могут реализоваться, если какие-либо страны будут применять наиболее рискованные формы автоматизации.
Рабочий доклад под названием «Стабильное ядерное будущее? Влияние автономных систем и искусственного интеллекта» опирается на другие научные работы, посвященные влиянию искусственного интеллекта (ИИ) на стратегии, связанные с применением ядерного оружия.
После завершения холодной войны российские ракеты были запрограммированы таким образом, что в случае запуска без плана полета они автоматически переориентировались на поражение американских объектов.
В свою очередь, Соединенные Штаты в какой-то момент также внесли коррективы в программное обеспечение своего ядерного потенциала, с тем чтобы он мог быть перенастроен в считанные секунды на новые цели, в то время как в мирное время по умолчанию ракеты должны были упасть в океане. В докладе говорится, что даже такие относительно «безобидные» формы автоматизации были опасны, поскольку случайный запуск мог спровоцировать полномасштабную атомную войну. Но сегодня некоторые страны, по мнению авторов, могут прибегнуть к более рискованным типам автоматизации.
Угрозы могут исходить от различных источников. Так, ядерные страны могут разрабатывать автономные вооружения, на борту которых нет человека, который отвечал бы за их развертывание и применение. Кроме того, эти системы теоретически можно взломать, или они могут выйти из-под контроля по каким-то иным причинам. Фактически, отмечается в докладе, Россия, если верить сообщениям в СМИ, уже разрабатывает автономную ядерную торпеду.
Еще одним фактором повышенной опасности является все более активное внедрение искусственного интеллекта в так называемые системы раннего предупреждения, которые указывают на начало ядерной атаки, а также интегрирование все более мощных механизмов ИИ в системы поддержки стратегических решений, которые военные используют для слежения за вооруженными силами потенциальных противников.
В прошлом имели место случаи, когда даже простейшие формы автоматизации в таких системах резко обостряли ядерную напряженность. Так, в докладе упоминается известный инцидент 1983 года, когда советскому офицеру, подполковнику Станиславу Петрову, пришлось нарушить должностную инструкцию и проигнорировать автоматические звуковые и визуальные сигналы, которые предупреждали о ядерной атаке со стороны Соединенных Штатов. Петров решил перепроверить информацию, поступавшую от автоматизированных систем, бросив вызов мощному когнитивному эффекту, известному как «предвзятое доверие автоматике».
Другой проблемной формой автоматизации на ранней стадии была советская система поддержки принятия стратегических решений VYRAN. Это была компьютерная программа, призванная вовремя предупредить советское руководство о том, что Соединенные Штаты достигли такого уровня военного превосходства, который требовал от СССР нанесения ядерного удара.
Однако, советские разведчики нередко вводили в систему информацию, которая лишь подтверждала их предвзятые представления о намерениях США. «Этот порочный круг обратной связи усиливал предполагаемые угрозы, вместо того, чтобы давать советскому руководству более четкое представление о планах потенциального противника», – говорится в докладе. Сегодня имеются убедительные признаки того, что отдельные страны, в том числе Россия и Китай, уделяют повышенное внимание разработке так называемых компьютерных моделей для анализа угрозы.
Однако, несмотря на все недостатки, авторы считают, что имеются также веские доводы в пользу внедрения автоматики и искусственного интеллекта в системы ядерных вооружений. В частности, они отмечают способность искусственного интеллекта обрабатывать большее количество данных, что позволяет повысить уровень владения реальной обстановкой должностных лиц, отвечающих за применение ядерного оружия.
Автоматика может быть полезна и для передачи команд в «условиях радиоэлектронной борьбы», в том числе во время военных действий. Впрочем, как казано в докладе, «во многом способность автономных систем повысить надежность и точность управления ядерным оружием носит характер предположения».
В докладе утверждается, что с наибольшей вероятностью на риск повышения уровня автоматизации и внедрения ИИ в ядерные вооружения пойдут именно те страны, которые менее других уверены в своем неядерном военном потенциале и способности нанести ответный удар после нападения на их ядерные объекты. Дело в том, что для них последствия запоздалой реакции на атаку противника будут значительно более разрушительными.
Один из авторов доклада, Майкл Горовиц полагает, что внедрение искусственного интеллекта в сами системы ядерных вооружений сопряжено в основном с маловероятными рисками. Гораздо большую опасность, по мнению ученого, представляет влияние ИИ на стратегию тех или иных стран в отношении применения ядерных вооружений. «Риск, который беспокоит меня больше всего, заключается в том, что искусственный интеллект, увеличивая скорость принятия решений и самих военных действий, может оказать давление на доктрины раннего предупреждения и нанесения ядерного удара в тех странах, которые боятся сокрушительного поражения в войне обычными средствами», – говорит он.
Существует также вероятность, что дефицит времени, вызванный применением ИИ, может привести к цепочке принятия поспешных решений, которые в худшем случае способны привести к тому, что та или иная страна нанесет упреждающий ядерный удар. «Страх перед быстрым поражением может дать толчок к более стремительному переходу вооруженной конфронтации на ядерный уровень».
Высока вероятность того, что со временем автоматика проникнет в ядерные операции, особенно после того как страны модернизируют свои ядерные силы. Соединенные Штаты, в частности, уже приступили к реализации многолетнего плана модернизации ядерного потенциала, стоимостью более чем в триллион долларов. Аналогичные программы реализуются также в России и Китае.
