Сквер был заложен после Великой Отечественной войны весной 1946 года по проекту архитекторов А. М. Касьянова, В. И. Коржа и А. С. Маяка take a look at the site here. До войны на этом месте располагалось троллейбусное депо, а до 1930-х годов — Мироносицкая церковь на одноимённой площади.
Строительство сквера производилось в основном не за бюджетные деньги, а «на энтузиазме». Харьковчане добровольно в свободное время и во время субботников участвовали в строительстве сквера в городе, центральная часть которого в то время, после войны, представляла собой в основном развалины.
В 1947 году в сквере была сооружена фонтан-беседка Стеклянная (Зеркальная) струя, ставшая одним из символов города. В 2004 году к празднованию 350-летия Харькова в подарок от города Алчевска был получен памятник Алексею Кирилловичу Алчевскому, который установили в северо-восточной части сквера возле перекрёстка улиц Чернышевской и Совнаркомовской.

1948 год. Фонтан Стеклянная струя