Родился в 1925 году в селе Большая Пятигорка Бердичевского района Житомирской области. Украинец, из служащих.

В 1941 году А.И. Украинец окончил 8 классов. В начале Великой Отечественной войны он был эвакуирован в Острогожский район Воронежской области, где работал в совхозе «Госплодопитомник». В январе 1943 года А.И. Украинец был призван в Красную Армию и командиром орудия участвовал в боевых действиях. Боевой путь Анатолия Ивановича отмечен орденом Красного Знамени и медалями: «За отвагу», «За освобождение Варшавы», «За победу над Германией».

После демобилизации из армии, с 1950 по 1953 год, А.И. Украинец работал в совхозе «Тремля» Копаткевичского района Гомельской области. В 1953 году он заочно окончил среднюю школу, и был направлен РК КПБ на работу в органы внутренних дел. Анатолий Иванович учился в Ленинградской школе политработников, а после ее окончания вернулся на работу в Гомельскую область. В 1969 году А.И. Украинец окончил Высшую школу МВД СССР.

С декабря 1983 по август 1991 года Анатолий Иванович работал старшим лаборантом кафедры физической метрологии Гомельского государственного университета имени Ф. Скорины.