Родился в 1922 году в селе Чернооково Климовского района Брянской области. Русский, из крестьян.

После окончания школы в 1939 году Н.И. Рубцов поступил в Донецкий горный техникум, но окончить его не успел. После нападения на СССР фашистской Германии в августе 1941 года он был мобилизован в ряды Красной Армии.

В годы Великой Отечественной войны Н.И. Рубцов окончил Киевское пехотное училище, служил командиром роты в Забайкалье. С июня 1942 года он воевал в действующей армии на Донском и Сталинградском фронтах, в ноябре 1942 года был ранен, а после госпиталя продолжал службу командиром роты запасного стрелкового полка. С мая 1944 года Н.И. Рубцов снова участвовал в боевых действиях начальником штаба стрелкового батальона 1-го Прибалтийского фронта. В октябре 1944 года он был тяжело ранен и после выздоровления в ноябре 1945 года был демобилизован из армии по инвалидности. Боевой путь Николая Ивановича отмечен орденом Красной Звезды и многими медалями.

После демобилизации Н.И. Рубцов работал в комсомольских органах. В 1947 году он поступил в Кировский государственный пединститут, в 1953 году окончил Московский государственный университет имени М.В. Ломоносова, обучался в аспирантуре. Все годы после окончания аспирантуры он работал в г. Кирове. В 1962 году защитил кандидатскую диссертацию, с 1972 года – доктор философских наук.

C 1973 по 1988 год жизнь Николая Ивановича Рубцова была связана с Гомельским государственным университетом, где он работал профессором кафедры философии.