Родился в 1927 году в деревне Гришаты Опаринского района Кировской области. Русский, из крестьян.

До начала Великой Отечественной Иван Данилович войны окончил 6 классов. С июня 1941 по ноябрь1944 года работал в колхозе. В ноябре 1944 года он был призван в ряды Красной Армии, где прослужил до мая 1951 года. Воинскую службу проходил с ноября 1944 по июнь 1945 года курсантом 47-го учебного стрелкового полка, а с июня 1945 по май 1951 года на должности командира отделения.

После демобилизации из Вооруженных Сил, с 11 мая 1951 года по 28 февраля 1971 года, Иван Данилович служил в органах МВД. Затем продолжал трудовую деятельность во вневедомственной охране города Гомеля. С августа 1971 года и до 15 мая 1985 года он работал делопроизводителем, паспортистом в общежитиях Гомельского государственного университета.

У И.Д Гмызина 9 правительственных наград, среди которых медали «За победу над Германией» и «За победу над Японией».