在1853年至1856年的克里米亚战争中，俄国遭到惨败，使得国内对尼古拉一世的不满达到了顶峰。半个世纪前称霸欧洲的俄军遭此惨败，暴露出装备落后，后勤运输和供应能力低下，军事思想陈旧，指挥无方等严重问题。恰好在这一历史转折关头，尼古拉一世于1855年3月2日病逝。亚历山大接手的是一个国力衰落、危机四伏的俄罗斯帝国。

1855年3月2日（俄历2月18日），亚历山大继位，成为俄罗斯帝国的第十二位皇帝，称亚历山大二世。9月7日（俄历8月26日），在莫斯科克里姆林宫的瓦西里升天教堂加冕。

亚历山大二世即位后，首先要解决的便是克里米亚问题。在1856年时，克里米亚战争已经进入尾声，亚历山大召回了克里米亚驻军总司令亚历山大·谢尔盖耶维奇·缅希科夫亲王，代之以米哈伊尔·德米特里耶维奇·戈尔恰科夫亲王。同时开展积极的外交活动，授权在维也纳的大使亚历山大·米哈伊洛维奇·戈尔恰科夫考虑和平的可能性。3月15日，谈判在维也纳开始。经过激烈的讨价还价，3月30日，各国签订《巴黎和约》，结束了战争。