Кампания против "роботов-убийц" достигает нового уровня, сообщило издание Breaking Defense со ссылкой на бывшего заместителя министра обороны США Роберта Уорка. Некоторые страны, например, Иордания уже подписали соглашение о полном запрете использования автоматизированных систем запуска ядерного оружия.
В то же время Уорк указал на возможный ужасающий сценарий: искусственный интеллект, работающий по установленным параметрам и показателям и реагирующий на определенный уровень угрозы, может "переоценить" ситуацию. И в момент, когда опасности на самом деле не было, запустить механизм атаки.
Бывший заместитель министра обороны США привел в пример две страны, с которыми, по его оценке, стоит достичь новых договоренностей. В первую очередь Уорк указал на Китай, который хотя и одобряет запрет роботизированных систем принятия решений, но при этом "оставляет за собой право на их разработку и строительство".
Как подчеркнул Уорк, США обязаны работать и с Россией, и с Китаем для предотвращения "дестабилизирующей ситуации".
Ведь, сказал американский политик, Российская Федерация уже имеет роботизированную систему "Периметр", которая, как описано в статье, может принять сейсмическую активность за ядерные взрывы, после чего направит запрос в штаб войск и, если вдруг не получит ответа, отдаст команду на запуск межконтинентальных баллистических ракет.
Уорк добавил, что военное применение искусственного интеллекта может создать трагичные последствия: например, без живого прицеливания удар, совершенный роботом, способен привести к нежелаемым жертвам среди мирного населения и т. д.
Также негативный сценарий возможен при использовании роботов при анализе разведывательных данных и системах раннего предупреждения:
"Представьте, система искусственного интеллекта в командном центре китайских войск, проанализировав оперативные данные, заявляет, что США готовятся нанести удар по Китаю, и рекомендует нанести превентивный удар", – сказал Уорк.
В Breaking Defense дополнили, что их эксперты не призывали к полному отказу от использования искусственного интеллекта, однако во в главе с кампанией "Остановим роботов-убийц" призывают к сильно ограниченному полю использования подобных систем.