Улица возникла в 1-й половине XIX ст. на древней Житомирской дороге, составляла часть ул. Житомирской (вместе с нынешней улицей Артёма). Первоначально улица упиралась в ответвление Бабьего Яра. В 1950-х годах продлена до современной улицы Елены Телиги.
В 1869—1922 годах и 1941—1947 годах улица имела название ул. Дорогожицкая (или в XIX — в начале XX ст. Большая Дорогожицкая), от летописной местности Дорогожичи. В 1922 году получила современное название в честь Ювеналия Дмитровича Мельникова — одного из первых в Киеве пропагандистов социал-демократических взглядов; он держал на этой улице школу-мастерскую, которая была фактически марксистским кружком. В отдельных источниках улица обозначена также как улица Мельника или Мельничная улица.
Застройка улицы началась во второй половине XIX с. Среди небольших жилых домов выделялись значимые общественные сооружения: Шестая гимназия, Тираспольские казармы, приют для детей военных. Нынешняя застройка сложилась преимущественно в советское время.