Родился в 1914 году в деревне Зеленовка Буда-Кошелевского района Гомельской области. Белорус, из крестьян.

В 1934 году Иван Васильевич поступил на работу слесарем в паровозное депо железнодорожной станции города Гомеля. Отсюда он в 1936 году был призван в Красную Армию.

Демобилизовавшись из армии в 1938 году, И.В. Жарин работал шофером в Главном управлении шоссейных дорог. В 1939 году он снова был мобилизован Минским городским военным комисариатом в армию, а после увольнения в запас работал шофером Днепро-Двинского речного пароходства в городе Гомеле. Но мирная жизнь продолжалась недолго.

В начале Великой Отечественной войны Иван Васильевич был мобилизован на защиту Родины и прошел по дорогам войны до 1946 года.

После демобилизации из Красной Армии в 1946 году Иван Васильевич работал шофером, а с 1959 года инструктором автодела Гомельского государственного педагогического института им. В.П. Чкалова и государственного университета до выхода на пенсию в 1978 году.