Родился в 1923 году в Гомеле. Еврей, из рабочих.

После окончания 8 классов И.З. Гинзбург поступил в Московский цирковой техникум, одновременно заочно окончил техникум физической культуры в городе Минске. В 1939–1941 годах он работал тренером по гимнастике, руководил акробатическим кружком в городе Гомеле.

После нападения гитлеровской Германии на СССР И.З. Гинзбург вступил в народное ополчение, в августе – октябре 1941 года он служил в 78-м Запасном стрелковом полку в городе Тамбове, участвовал в боевых действиях командиром орудия в составе 3-го и 4-го Украинских фронтов. За участие в боях Ицка Залманович был награжден медалями «За отвагу», «За боевые заслуги».

После окончания Великой Отечественной войны и до демобилизации из рядов Советской Армии старший сержант И.З.Гинзбург служил киномехаником в различных гарнизонах в Румынии.

С 1947 года И.З. Гинзбург работал директором детской спортивной школы в г. Гомеле, в 1951–1953 годах – преподавателем физкультуры в школе, тренером белорусского спортивного общества «Спартак» в городе Минск, руководителем акробатического кружка гомельского Дворца культуры им. Ленина.

С 1954 года Ицка Залманович Гинзбург на условиях почасовой оплаты работал преподавателем по теории физического воспитания и гимнастики в Гомельском государственном педагогическом институте имени В.П. Чкалова.