Зиновий Петрович Рожественский родился в семье полкового военного врача в Краснинском уезде Смоленской губернии недалеко от села Сырокоренье.

В 1864 году поступил в Морской кадетский корпус, который окончил в 1868 году. В 1873 году окончил Михайловскую военную артиллерийскую академию по специальности морского артиллериста и был выпущен лейтенантом.

Некоторое время служил командиром роты Учебного отряда Балтийского флота, участвовал в работе Комиссии морских артиллерийских опытов. В 1876 году участвовал в подготовке артиллерии Черноморского флота к надвигающейся русско-турецкой войне, после чего был назначен начальником артиллерии Черноморского флота.

Во время боевых действий неоднократно участвовал в крейсерских рейдах. В июле 1877 года, находясь на пароходе «Веста», принял командование артиллерией, заменив убитого подполковника Чернова, и нанёс турецкому броненосцу «Фетхи-Буленд» повреждения, заставившие того выйти из боя. За этот бой Рожественский был произведён в капитан-лейтенанты и награждён орденами Святого Владимира 4-й степени с мечами и бантом и Святого Георгия 4-й степени.

После окончания войны Рожественский опубликовал в газете «Биржевые ведомости» статью «Броненосцы и купцы-крейсера», где выступил с критикой технической отсталости отечественного флота и призывом переориентироваться на строительство броненосцев. Статья вызвала всеобщее негодование и привела к возбуждению судебного процесса по делу «Весты». Управляющий Морским министерством адмирал С.С. Лесовский обещал «стереть в порошок» строптивого офицера.

После образования княжества Болгарии был прикомандирован к создававшемуся болгарскому военному флоту и с лета 1883 года по октябрь 1885 годов исполнял обязанности «начальника Флотилии и морской части Княжества и командира княжеско-болгарской яхты «Александр I».

В 1886-1891 годах проходил службу флагманским офицером, старшим офицером, командиром корабля на Балтийском и Тихоокеанском флотах. Старший офицер броненосной батареи «Кремль» (1887), фрегата «Герцог Эдинбургский». Командир клипера «Наездник» (1890), канонерской лодки «Грозящий» (1891). В 1891-1893 годах был российским военно-морским атташе в Лондоне.

С 1894 года – командир крейсера «Владимир Мономах», входившего в Средиземноморскую эскадру контр-адмирала Степана Осиповича Макарова. Совершил вместе с эскадрой переход на Дальний Восток для усиления военно-морской группировки в связи с обострением отношений с Японией. В районе китайского города-порта Чифу Соединённая русская эскадра проводила военные учения. Адмирал Макаров отзывался о Рожественском как о надёжном морском командире.

В 1896-1898 годах – командир броненосца береговой обороны «Первенец».

С 1898 года – контр-адмирал, командир Учебно-артиллерийского отряда Балтийского флота. В 1900 году получил известность благодаря организации работ по спасению броненосца «Генерал-адмирал Апраксин», вылетевшего на камни у южной оконечности острова Гогланд. С 1903 года – контр-адмирал Свиты Его Императорского Величества.

 В 1903 году, за год до начала Русско-японской войны, Рожественский получил назначение на должность начальника Главного морского штаба. Он приступил к выполнению плана перевооружения и усиления Тихоокеанского флота, но результатов достичь не удалось.

В апреле 1904 года Рожественскому поручили подготовку и командование Второй тихоокеанской эскадрой, состоявшей из 7 броненосцев, 8 крейсеров, 9 миноносцев и ряда вспомогательных судов. В задачи эскадры входил переход из Балтики в Тихий океан, помощь осаждённому Порт-Артуру и сражение с японским флотом. В сентябре 1904 года Рожественскому было присвоено звание вице-адмирала.

В октябре 1904 года Вторая тихоокеанская эскадра вышла в поход и 14 мая 1905 года подошла к Цусимскому проливу. За время похода, проходившего в условиях отсутствия надёжных баз снабжения, плохой выучки экипажей – не было потеряно ни одного корабля.

22 октября 1904 года произошёл Гулльский инцидент: русская эскадра под командованием Рожественского обстреляла в Северном море собственный крейсер «Аврора», потопила английский траулер «Крейн» и серьёзно повредила пять малых рыболовецких судов, приняв их за японские миноносцы.

14 мая 1905 года японский флот атаковал эскадру Рожественского в Цусимском проливе. В ходе сражения был выведен из строя и потоплен флагманский корабль «Князь Суворов», сам вице-адмирал получил тяжёлое ранение в голову. Рожественский не сумел подготовить свою эскадру к сражению и не сумел командовать ею в бою: управление эскадрой было потеряно через 20 минут после начала боя. К утру 15 мая Вторая тихоокеанская эскадра перестала существовать. Миноносец «Бедовый», на котором находился раненый Рожественский и другие раненые русские офицеры, был сдан японцам.

После подписания Портсмутского мира адмирал вернулся в Россию, где был восстановлен в прежней должности – начальника Главного Морского Штаба. Вскоре в газетах началась травля адмирала. Первоначально Рожественский пытался оправдываться, но затем, в феврале 1906 года, подал в отставку. Однако волна критики не утихала, и адмирал настоял на привлечении себя к суду. На суде он оправдывал своих подчинённых, в особенности матросов, и просил для себя смертной казни, но был оправдан военно-морским судом как человек, получивший в сражении тяжкое ранение.

После окончания процесса жил затворником, практически не выходил из своей квартиры и умер в Петербурге от сердечного приступа в ночь на 1909 год. Погребён на Тихвинском кладбище Александро-Невской лавры; могила была разрушена примерно в 1920 году и считалась утраченной. Точное местонахождение праха адмирала помог установить правнук, Зиновий Спечинский, предоставивший карту захоронений.

Был женат на дочери коллежского асессора Ольге Николаевне Антиповой. 23 декабря 1877 года у них родилась дочь Елена, которая вышла замуж за военного инженера Владимира Субботина (1874-1934). Внук Николай эмигрировал в США, а его сестра Ольга Спечинская с сыном Зиновием в 1947 году вернулись на родину. Правнук – Зиновий Дмитриевич Спечинский, японист по профессии; праправнук – Кирилл Спечинский (1966-2018) – музыкант, лидер группы «Внезапный сыч».