Заведение сквера произошло в 1872 году на территории, известной как площадь Нового рынка, и он был назван Александровским в честь ранее построенной на его участке часовни Александра Невского.
В 1930-е годы его прозвали Большим садом, после окончания войны ему присвоили название Центрального сквера, но лишь в 2009 году он снова обрел свое первоначальное название. В 1874 году, в знак торжества открытия первого городского водопровода, в центре сквера установили фонтан, декорированный скульптурой «Мальчик, играющий с лебедем». В начале двадцатого века за вход в Александровский сквер взималась плата, поэтому не каждый мог себе позволить пройтись по его аллеям, усыпанным липами и кленами. У главного входа в парк, там, где находится небольшая лестница и колонны, в 1912 году появилась первая в городе стоянка такси, обслуживавшая таксомоторы «Форд» на шесть мест, доставлявшие обеспеченных жителей по адресам.
Вокруг сквера располагается несколько сооружений, относящихся к тоталитарной архитектуре середины двадцатого века, включая гранитную правительственную трибуну, с которой принимали парады руководители Беларуси, Дом офицеров, построенный между 1934 и 1939 годами, памятник-танк Т-34, один из первых вступивших в Минск 3 июля 1944 года в ходе освобождения города от фашистов, и бывшее здание Центрального комитета Коммунистической партии, возведенное в период с 1939 по 1947 год, которое ныне служит резиденцией Президента Республики Беларусь.