Проектирование часовни Александра Невского было поручено губернскому архитектору Н. И. Поздееву, комитет по её
строительству возглавил городской голова Иван Николаевич Соболев. Большую часть расходов взял на себя, будучи
тяжело больным, купец К. М. Огнянов.
Церемония закладки производилась днём 17 октября 1889 года духовенством
собора, с крестным ходом, в присутствии городских властей. Немощьный Огнянов находился в это время на втором
этаже своей лавочки, где был приготовлен чай и небольшая закуска. Первый камень положил от имени купца его
сын Миша. Сам хозяин усердно коленопреклонённо молился у окна, через которое было видно всё торжество
закладки на площадке, и очень плакал, особенно когда протодиакон возгласил ему, хозяину, "многая лета".
Не мог он успокоиться и позже, когда после закладки стали приходить к нему поздравлять и желать
выздоровления, - всё продолжал плакать. Построил он часовню в жертву Богу, чтобы выздороветь,
но освятили и открыли её уже без его.