Чернеча гора (позже названная Тарасовой горой) стала известной далеко за пределами Канева с 22 мая 1861 года, с момента захоронения здесь известного украинского поэта и художника Тараса Шевченко. Изначально могила имела вид казацкого насыпного кургана с дубовым крестом на вершине. Несколькими годами позже этот курган был пересыпан в два яруса и обложен камнями.
В 1884 году на месте старого дубового креста установлен большой шестиметровый чугунный крест-памятник и построен деревянный дом, в котором была открыта первая музейная экспозиция под названием «Тарасова светлица».
В апреле 1923 года Каневского районным съездом пролетариев и бедноты было принято решение о замене чугунного креста памятным бюстом. А в 1929 году рядом с Тарасовой горой была открыта гостиница «Дом туриста», в которой, помимо гостиничных номеров, находились так же комната-читальня и новый музей Тараса Шевченко с экспонатами из «Тарасовой светлицы».
Свой современный вид музей-заповедник Тараса Шевченко приобрел в 1939 году, с установкой на могиле поэта массивного бронзового памятника и возведением отдельно стоящего здания под литературно-мемориальный музей. И памятник, и музей торжественно открыли 18 июня 1939 года, приурочив это событие к 125-летия со дня рождения Тараса Шевченко .
Во время немецкой оккупации 1943-1944 гг. музейная экспозиция была уничтожена, а сама территория музея переоборудована под трудовой лагерь. Однако сразу после освобождения Канева советскими войсками, в 1944 году музей был восстановлен и еще до окончания войны принял первых посетителей.
Последняя реконструкция музея была проведена в 2010 году. В настоящее время музейное собрание насчитывает более 35 тыс. экспонатов .