Александр Иванович Дмитриев родился 2 (14) октября 1878 года в семье фотографа, приписанной к мещанскому сословию города Пскова. С детских лет он увлекался рисованием. Мальчик рано остался без отца, и овдовевшая мать Дмитриева продолжала держать фотографическое заведение и прилагала все силы, чтобы дать полноценное образование Александру и его младшему брату Николаю. Благодаря заботам матери он овладел французским, немецким и английским языками, которые так пригодились в заграничных командировках. Летом 1895 года шестнадцатилетний юноша приехал в столицу и, успешно сдав экзамены, поступил в Институт гражданских инженеров. Свою первую работу по рисованию на первом курсе студент Дмитриев выполнил на тему «Древности Пскова». Прекрасные акварельные рисунки выпускника были оценены на «отлично». Много лет спустя он вспоминал свое первое произведение: «Недавно перечитал «Некоторые древности Пскова» и увидел, что это юношеское исследование мог бы подписать и теперь, через полстолетия ничего не меняя». Институт гражданских инженеров Дмитриев закончил с золотой медалью – вторым по списку из 59 выпускников. Талантливый выпускник активно включился в архитектурную жизнь столицы и был избран членом Императорского Санкт-Петербургского общества архитекторов. Одновременно поступил на архитектурное отделение Академии художеств по классу популярного тогда профессора Л.Н. Бенуа. В 1904 году Дмитриев совершает поездку за границу с научной целью. Поездка в США и Канаду расширила его кругозор. В своих научных трудах архитектор рассматривал вопросы техническим приемам и особенностям строительства, экономики, строительного законодательства, прочности и противопожарной безопасности. Александр Иванович активно принимает участие в архитектурных конкурсах. Его проект здания Государственной Думы для Петербурга получил в 1908 году золотую медаль. Но наибольшую известность принесло Дмитриеву участие в конкурсе в 1903 году на проект здания Училищного дома имени Петра Великого (Нахимовского военно-морского училища), возведенный на юго-восточной стрелке Петроградской стороны, у истока Большой Невки. В момент конкурса он вместе с фон Гогеном трудился над интерьерами особняка М.Ф. Кшесинской.