Улица возникла в середине XX века под названием 860-я Новая. Современное название в честь советского государственного и партийного деятеля А. С. Щербакова — с 1953 года. С конца 1950-х годов, в процессе строительства жилого массива Нивки, улица неоднократно удлинялась. В 1977 году от неё отделена улица Маршала Гречко, после чего улица Щербакова приобрела современные границы.

1963 год. Улица Щербакова

Фотограф: неизвестен
Источник: неизвестен

Это же место в другое время:

1965 год.

Фотограф: О. Примаченко
Источник: Коллекция В. Филиппова

1969 год. На нивской конечной остановке троллейбусного маршрута № 5, имевшей официальное название "Улица Северосырецкая", видим расцепленный поезд из троллейбусов МТБ-82 (к тому времени почти все такие троллейбусы эксплуатировались в упомянутом депо). Улица, на которой сделано фото, в то время была частью Щербакова, заканчивавшейся в районе нынешнего издательского комплекса "Киевская правда"; в 70-е годы построят ее продолжение до нового жилого массива Виноградарь и вместе с участком улицы Щербакова от Интернациональной площади назовут в честь маршала Гречко — одного из министров обороны СССР.