13 (25) сентября 1829 по представлению графа Воронцова император Николай I издал указ, который позволил начать в Одессе городской публичную библиотеку. Это была вторая в Российской империи (после Императорской в ​​Санкт-Петербурге) i первая в Украине публичная библиотека.
Сначала для вновь библиотеку были выделены комнаты в доме городских присутствующих мест на Приморском бульваре. Поскольку в Одессе в конце 1829 вспыхнула эпидемия чумы, открытие библиотеки состоялось только 15 (27) апреля 1830. К этому времени собрание насчитывало уже 5000 книг.
А в 1907 году библиотека еще раз отпраздновала новоселье — переехала в специально построенное для нее здание — один из лучших образцов библиотечной архитектуры в стране (архитектор Ф. П. Нестурх).
1 апреля 1931 года Библиотеку переименовли в Одесскую государственную научную библиотеку.
10 февраля 1941 — Указом Президиума Верховного Совета УССР Библиотеке присвоено имя М. Горького.