Родился в 1913 году в деревне Сумовка Винницкой области. Украинец, из крестьян.

Трудовую деятельность начал в 1930 году учащимся Бердичевской школы механизации сельского хозяйства широкого профиля. Работал бригадиром тракторной бригады. После окончания школы автомехаников – старшим автомехаником.

С 1935 года жизнь Сергея Матвеевича связана с Красной Армией, где до начала Великой Отечественной войны он прошел путь от бойца бригадной школы водителей танков до командира танкового ремонтного взвода.

В годы войны он техник танкового батальона, заместитель командира батальона, полка по технической части. Его ратный путь отмечен 5 орденами и 4 медалями.

После ухода в отставку в 1958 году подполковник С.М. Гомлявый учился на курсах руководящих работников сельского хозяйства БСХА, работал инженером по технике безопасности, инженером по эксплуатации автобазы №1 г. Гомеля. В 1963-1964 годах – инструктор производственного обучения в Гомельском государственном педагогическом институте им. В.П. Чкалова.