Службу начал воздушным десантником 8-го воздушно-десантного корпуса, который дислоцировался в Энгельсе Саратовской области. В июле 1942 года фашисты прорвали Советский фронт в нижней излучине Дона и двинулись на Сталинград. В спешном порядке 8-ой воздушно-десантный корпус был переименован в 35-ю стрелковую дивизию и брошен на оборону Сталинграда. В то время красноармеец Леонов Иван Михайлович участвовал в тяжелых, оборонительных боях в составе 57-ой армии до получения тяжелого ранения в ноябре 1942 года. После длительного лечения в госпитале Перми, летом 1943 года попал на фронт на Курскую дугу, воевал в составе Степного фронта, пулеметчиком станкового пулемета "Максим", второй раз был ранен и после излечения в госпитале, попал на первый Белорусский фронт, в составе войск которого участвовал летом 1944 года в операции "Багратион", по освобождению Белоруссии от немецко-фашистких захватчиков. В составе этого фронта освобождал Польшу, брал город Варшава. В боях за Варшаву был в третий раз ранен. Весной 1945 года воевал в Германии, штурмовал Берлин – участвовал в ожесточенных боях за взятие Имперской канцелярии. За боевые подвиги награжден орденами Красной Звезды, Славы 3-ей степени, двумя медалями "За отвагу", "За оборону Сталинграда", "За освобождения Варшавы", "За взятие Берлина", "За победу над Германией".