Иван Михайлович Сухомлин родился 24 июня 1923 года в крестьянской семье в селе Василенково ныне Шевченковского района Харьковской области. После неполной средней школы окончил Бердянский сельскохозяйственный техникум.
В Красной Армии с 1941 года. Вначале учился на радиотехнических курсах, затем направлен в Камышинское танковое училище, которое окончил в 1942 году. С января 1943 года командир танкового взвода 68-й танковой бригады. Участвовал в боях на Брянском и Центральном фронтах. Сражался на Курской дуге, участвовал в освобождении Белоруссии.
Особо отличился 8 июля 1944 года в боях на подступах к городу Слоним Гродненской области. Уничтожил 2 самоходные пушки, миномётную батарею и около 30 солдат и офицеров противника.
Будучи командиром танка Т-34, участвовал в Бобруйско -Минской операции. Был дважды ранен. Находясь в госпитале гвардии лейтенант Сухомлин узнал, что 22 августа 1944 года ему за мужество и героизм, проявленные в боях, присвоено звание Героя Советского Союза с вручением ордена Ленина и медали «Золотая Звезда».
В 1951 году окончил Военную академию бронетанковых и механизированных войск. В 1955 году – Военную академию им. М.В. Фрунзе. Направлен в войска, откуда поступил в адъюнктуру бронетанковой академии в 1961 году. В 1963 году стал кандидатом военных наук и оставлен в академии на преподавательской должности. С 1965 по 1967 год проходил службу на Кубе.
С 1975 по 1985 год был начальником факультета восточных языков Военного института иностранных языков.
С 1985 году уволен в запас. Занимался общественной работой. Возглавлял организацию клуба героев Советского Союза и России в Северном округе Москвы.
Умер 29 января 2002 года. Похоронен в Москве на Перепечинском кладбище (участок 23). Является почетным гражданином города Слоним Гродненской области.