Родился в 1918 году в деревне Кучин Кормянского района Гомельской области. Белорус, из крестьян.

Трудовой путь Александр Андреевич начал в 1934 году счетоводом колхоза, сельского совета. В 1935 году учился на рабфаке и работал пионервожатым, секретарем сельсовета. В 1937 году был направляен на учебу в Коммунистический институт журналистики, после окончания которого, работал журналистом ряде органов печати. В 1938 году Александр Андреевич поступил в Белорусский государственный университет имени В.И.Ленина, где проучился до начала Великой Отечественной войны.

С первых дней нападения фашистской Германии А.А. Филимонов был мобилизован в Красную Армию. С июля по сентябрь 1941 года – в действующей армии. В 1941-1942 – курсант Орловского танкового училища. После окончания училища А.А. Филимонов командир танкового взвода, одновременно и начфин взвода, участвовал в боевых действиях на Степном, 2-м и 1-м Украинских фронтах, освобождал Харьков, Полтаву, Кировоград и другие города.

Особенно отличился старший лейтенант, командир танковой роты А.А. Филимонов в боях на территории Германии при взятии Берлина, в боях с фашистскими войсками рвавшимися на помощь окруженной берлинской группировке. За эти бои ему было в 1945 году присвоено звание Героя Советского Союза и вручены медаль «Золотая Звезда» и орден Ленина. Кроме них, Александр Андреевич украшали ордена Красного Знамени, Отечественной войны 2-й степени, медали «За взятие Берлина», «За освобождение Праги», «За победу над Германией».

Демобилизовавшись из рядов Советской Армии в 1946 году, Александр Андреевич в 1949 году окончил Белорусского государственного университета им. В.И.Ленина, в 1952 году – аспирантуру и работал ассистентом, старшим преподавателем, а с 1954 года доцентом кафедры основ марксизма-ленинизма БГУ.

В 1955-1965 годах А.А. Филимонов работал заведующим кафедрой основ марксизма-ленинизма, проректором Гомельского государственного педагогического института им. В.П.Чкалова. В 1965 году он уехал в докторантуру в город Минск, защитил докторскую диссертацию, Высшей Аттестационной комиссией утвержден в ученом звании профессора и в разное время работал заведующим сектором Института истории АН БССР, заместителем директора Института истории партии при ЦК КПБ, на преподавательской работе в БГУ.