Родился в 1914 году в деревне Лесновичи Шумилинского района Витебской области. Белорус, из крестьян. Яков Романович начал трудиться с 10 лет. Сначала работал пастушком, затем поступил в Витебский педагогический техникум, который успешно окончил в 1932 году. С этого времени вся его жизнь связана с воспитанием подрастающего поколения. Он работал учителем начальной школы, заведующим школой, методистом районного отдела народного образования. Работу педагога совмещал с работой счетовода колхоза. В 1935 – 1939 годах Я.Р. Ермолаев – студент Могилевского педагогического института.

В 1939 году Яков Романович был призан в Красную Армию, с которой его жизнь была связана до 1960 года. В 1941 году он успешно окончил военно-политический институт.

Боевой путь Я.Р. Ермолаева начался в октябре 1941 года на Карельском фронте. Он комиссар 7-го лыжного батальона 1-ой лыжной бригады. Затем он служил пропагандистом, инструктором политотдела, заместителем командира полка по политчасти. За участие в боевых действиях Яков Романович награжден орденами «Отечественной войны» 2-й степени, Красной Звезды и медалями «За боевые заслуги», «За победу над Германией», «За безупречную службу».

После окончания Великой Отечественной войны Яков Романович связан с подготовкой офицерских кадров для Советской Армии. С 1946 года он старший преподаватель Гомельского радиотехнического училища, а в 1949 – 1960 годы – начальник цикла этого учебного заведения. После ухода в отставку Я.Р. Ермолаева работал методистом института усовершенствования учителей, с 1962 по 1986 год преподавателем, старшим преподавателем кафедры философии Гомельского государственного педагогического института им. В.П.Чкалова и Гомельского государственного университета. Неоднократно избирался секретарем партбюро и парткома института и университета.