Иван Михайлович Ермаков родился в деревне Михайловка Казанского района Тюменской области в многодетной крестьянской семье. В 1939 г., после окончания семилетней школы, переехал в Омск, где поступил учиться в творческую студию при областном драматическом театре. В этот период работал актёром-кукловодом в Омском кукольном театре.
После окончания Омского пехотного училища в марте 1943 г., Ермаков был направлен на фронт командиром стрелкового взвода. Воевал на Волховском и Ленинградском фронтах, дважды был ранен. Награждён орденом Красной Звезды. Войну закончил в Эстонии, служил во внутренних войсках МВД Эстонии в 1945—1947 гг. В 1951 г. вернулся в Тюменскую область. В 1953 г. окончил Тобольскую культурно-просветительскую школу. Работал заведующим сельским клубом, затем — Домом культуры.
С 1962 г. был членом Союза писателей СССР.
Иван Михайлович работал и в жанрах очерка, рассказа, повести, но творческий успех к нему пришёл в жанре сказа, который утвердился в русской литературе после выхода в 1939 г. книги Павла Бажова «Малахитовая шкатулка». Первый сказ Ермакова «Соколкова бригада» был напечатан в газете «Тюменская правда», а затем перепечатан в журнале «Сибирские огни» в 1956 г. В 1961 г. вышел первый сборник Ермакова — «Богиня в шинели», который включал в себя семь сказов. В 1973 г. в Средне-Уральском книжном издательстве вышел сборник избранных сказов «Стоит меж лесов деревенька», в который вошли 16 произведений. Наиболее полным изданием сказов Ивана Михайловича стал вышедший в 1984 г. в Свердловске том «Учите меня, кузнецы» (серия «Уральская библиотека»).
Иван Михайлович умер 20 июня 1974 года в Тюмени.