Город основан в 1838 г. как военное управление на западном берегу Суджукской (ныне Цемесской) бухты. С 1839 г. называется Новороссийск — «город в Новороссии».
Новороссия — так с конца 18 в. официально называлось всё обширное пространство причерноморских степей, освобождённых из-под турецкого владычества и вошедших в состав России. С присоединением Закубанья это название было распространено и на него.
В период Крымской войны 1853—56 гг. Новороссийск был разрушен артиллерией англо-французской эскадры. В 1860 г. упразднён. В 1866 г. учреждён вновь.
С 1866 г. Новороссийск — центр Черноморского (Новороссийского) округа (отдела) Кубанской области, в 1896—1920 гг. — Черноморской губернии.
В 1879 г. близ Новороссийска были обнаружены богатейшие залежи мергелей. В 1882 г. Черноморским обществом «Портландцемент» построен первый в Новороссийске цементный завод «Завод» (ныне — завод «Пролетарий»). В 1883 обществом «Русский стандарт» введён в строй нефтеперегонный завод.
Развитие города ускорило проведение в 1888 г. железной дороги Екатеринодар — Новороссийск. При станции Новороссийск были открыты железнодорожные мастерская и депо. В 1896 акционерным обществом Владикавказской железной дороги было завершено строительство морского порта (2 мола, 8 пристаней, восточный пирс, элеватор и др.). Новороссийский порт становится крупнейшим на Северном Кавказе центром российского экспорта зерна и семян масличных культур, нефти и нефтепродуктов, цемента. В 1898 г. в Новороссийске построен цементный завод «Цепь» (ныне завод «Октябрь»). 
Во время гражданской войны по приказу В.И. Ленина 18 июня 1918 г. в Цемесской бухте была затоплена часть кораблей русского Черноморского флота (1 линкор, 10 эсминцев и другие суда). В ходе войны Новороссийск был ареной жестоких боёв.
Во время Великой Отечественной войны в ночь на 4 февраля 1943 г. южнее Новороссийска, в районе посёлка Станичка высадился десант моряков, захвативших плацдарм (впоследствии — «Малая Земля»), который удерживался 225 дней. Город был почти полностью разрушен. Отстроен заново лишь к середине 1960-х гг.
