1940 року закінчив театральную студію при Ленінградському державному театру музичної комедії.
В роки радянсько-німецької війни — в діючій армії, служив у військовій розвідці, неодноразово ходив у тил до ворога. Кавалер двох орденів Слави. Завершити війну в Берліні Смирнову не судилось: під час одного з боїв його було сильно контужено вибухом снаряду і після лікування в шпиталі його було демобілізовано. Тяжка контузія призвела до того, що він не міг мати дітей[2]. Так склалося, що найріднішою людиною для артиста лишалась його мати — Смирнова Ганна Іванівна (померла в 1981 році, поховано поруч з сином).
До 1946 року — артист естради, в 1946–1952 — актор Ленінградського державного театру музичної комедії, в 1952–1961 — артист «Лендержестради».
З 1961 — актор кіностудії «Ленфільм». Загалом у доробку Олексія Смирнова — понад сімдесят стрічок.
В 1979 році актор опинився в лікарні з серцевим нападом. 7 травня в день виписки він помер, дізнавшись про загибель свого друга Леоніда Бикова. Олексій Макарович хотів віддячити лікарям. Перший тост запропонував за свого найкращого друга та відомого режисера Леоніда Бикова. Хтось розгублено вимовив: «Хіба ж Ви не знаєте — Биков загинув…». Смирнов мовчки вийшов з палати. Коли за хвилину лікарі зайшли до палати актора, Олексій Макарович лежав бездиханним[3].
За іншими джерелами ця легенда про смерть актора близька до істини, але не зовсім точна. До лікарні Олексій Смирнов потрапив уже знаючи про смерть Бикова (Леонід Биков загинув 11 квітня) і саме смерть друга була однією з причин погіршення здоров'я Смирнова. "В день виписки з лікарні, 7 травня, Смирнов вирішив віддячити лікарям невеличким бенкетом. До тосту за День Перемоги хтось додав: «Коли дивлюсь „В бій ідуть лише «старі»“, завжди плачу…» Це нагадало Смірнову про смерть друга — Олексій Макарович похмурнів і пішов до палати. Коли лікар заглянув до нього, актор був уже мертвий[4].