Это был не первый попытка молодого царя овладеть крепостью. Первый Азовский поход был предпринят весной и осенью 1695 года. На взятие крепости была направлена армия, которая была сформирована из отрядов соратников Петра I Франца Лефорта, П. И. Гордона, а также из отрядов донских казаков.
В начале лета русская армия подошла к крепости и осадила ее с суши. Командование предприняло две попытки штурма, но они не увенчались успехом. Причиной неудачи похода было отсутствие у России флота, которое помешало блокировать крепость с моря. А турки, пользуясь этим беспрепятственно подвозили, в осажденную крепость припасы и подкрепления. Осаду пришлось снять и отступить в тыл.
В последние месяцы 1695 года началась подготовка ко второму походу на Азов. Главным отличием второй кампании было то, что в ней планировали использовать флот.
Флот начали строить на реке Воронеж. Были построены два парусных корабля "Апостол Петр" и "Апостол Павел", каждый из них имел на вооружении 36 пушек. Также были построены 22 галеры и около 300 морских лодок. Экипажи кораблей и судов были набраны из солдат и офицеров Семеновского и Преображенского полков.
Помимо строительства флота Петр I уделил большое внимание созданию сухопутной армии. Формирование сухопутной составляющей русской армии завершили к весне 1696 года. Она насчитывала 75 000 человек, которые были поделены на три дивизии. Дивизиями командовали сподвижники Петра I Гордон, Головин и Регеман.
Одновременно готовили еще одну сухопутную группировку, которая должна была отвлечь противника в нижнем течении Днепра. При формировании обеих армий большое внимание уделили воинской дисциплине, фортификационному оборудованию местности и отработке действий при штурме крепостей.
Армия выступила из Москвы 8 марта, а флот начал спускаться к Азовскому морю 23 апреля. Сосредоточение армии и флота под Азовом завершилось 3 июня 1696 года.
В результате умелых и грамотных действий армии и флота крепость была блокирована. После проведения бомбардировки с суши и с моря и атаки русских войск гарнизон крепости капитулировал.