Кампания против "роботов-убийц" достигает нового уровня, сообщило издание Breaking Defense со ссылкой на бывшего заместителя министра обороны США Роберта Уорка. Некоторые страны, например, Иордания уже подписали соглашение о полном запрете использования автоматизированных систем запуска ядерного оружия.

В то же время Уорк указал на возможный ужасающий сценарий: искусственный интеллект, работающий по установленным параметрам и показателям и реагирующий на определенный уровень угрозы, может "переоценить" ситуацию. И в момент, когда опасности на самом деле не было, запустить механизм атаки.

День мира: как работает договор о запрете ядерных испытаний

Бывший заместитель министра обороны США привел в пример две страны, с которыми, по его оценке, стоит достичь новых договоренностей. В первую очередь Уорк указал на Китай, который хотя и одобряет запрет роботизированных систем принятия решений, но при этом "оставляет за собой право на их разработку и строительство".

Как подчеркнул Уорк, США обязаны работать и с Россией, и с Китаем для предотвращения "дестабилизирующей ситуации".

Ведь, сказал американский политик, Российская Федерация уже имеет роботизированную систему "Периметр", которая, как описано в  статье, может принять сейсмическую активность за ядерные взрывы, после чего направит запрос в штаб войск и, если вдруг не получит ответа, отдаст команду на запуск межконтинентальных баллистических ракет.

Уорк добавил, что военное применение искусственного интеллекта может создать трагичные последствия: например, без живого прицеливания удар, совершенный роботом, способен привести к нежелаемым жертвам среди мирного населения и т. д.

Мишень ответного удара: устроят ли США ядерный апокалипсис в Европе?

Также негативный сценарий возможен при использовании роботов при анализе разведывательных данных и системах раннего предупреждения:

"Представьте, система искусственного интеллекта в командном центре китайских войск, проанализировав оперативные данные, заявляет, что США готовятся нанести удар по Китаю, и рекомендует нанести превентивный удар", – сказал Уорк.

В Breaking Defense дополнили, что их эксперты не призывали к полному отказу от использования искусственного интеллекта, однако во в главе с кампанией "Остановим роботов-убийц" призывают к сильно ограниченному полю использования подобных систем.