亚历山大于1818年4月29日生于莫斯科的克里姆林宫。是尼古拉·巴甫洛维奇大公（即后来的尼古拉一世）与普鲁士国王腓特烈·威廉三世的长女亚历山德拉·费奥多萝芙娜的长子。由于亚历山大的两位伯父亚历山大一世和康斯坦丁·巴甫洛维奇大公都没有子嗣，故而整个宫廷上下很早就意识到亚历山大是未来俄罗斯帝国的继承人，无论是尼古拉还是整个宫廷都对这位未来皇储的教育给予极大的重视。

亚历山大的老师中包括当时俄国著名的诗人瓦西里·安德烈耶维奇·茹科夫斯基，这是一位人文气息极浓的学者。茹可夫斯基在对亚历山大的教育中没有严格划分文化教育和道德修养教育的界限，而且更重视对皇子的思想教育。尼古拉一世认为俄国皇帝首先应该是一个标准的军人，否则无法成为一个合格的统治者。茹可夫斯基则直言不讳地指出：“他不会将这位继承人培养成为军队的指挥官，而是一位文明的君主，君主在俄罗斯所瞩目的不应是练兵场和军营，而是整个国家。”就在尼古拉一世和茹可夫斯基针对亚历山大展开的"思想教育争夺战"中，亚历山大既受到了良好的文化思想教育，又受到了良好的军事教育。

亚历山大在十九岁时就掌握了四门外语（英语、德语、法语、波兰语）以及诸多科目，包括数学、物理、地理、历史、东正教神学、政治经济学、法学等。可以说，同此前所有的俄国帝王相比，亚历山大接受的教育是最好的。[1]1829年，年幼的亚历山大曾随父母到过莫斯科、华沙和柏林。在11岁，他就指挥了一个连，14岁时，亚历山大第一次担任军官，一度领导一个排。随后进一步接受军事训练。