Происходил из Каппадокии и был сыном Константина Диогена, погибшего при Романе III Аргире. При императоре Константине Х Дуке был назначен правителем Средца в Болгарии.

Принадлежа к военно-патриотической партии, Роман с ненавистью относился к партии придворно-бюрократической, во главе которой стояли брат покойного царя, кесарь Иоанн Дука, и Михаил Пселл. Уличённый в заговоре с целью добиться престола, Роман был схвачен и привезён в столицу, где вдовствующая царица Евдокия, при допросе арестованного, была поражена его мощной фигурой и благородной осанкой. Роман получил прощение и вскоре был возведён в сан магистра и стратилата.

Евдокия, наследовавшая престол вместе с 3 сыновьями Дуки, Михаилом, Андроником и Константином, вскоре убедилась, что ослабленному внешними и внутренними неурядицами государству может помочь только сильная рука воина, и решила вторично выйти замуж, хотя после смерти мужа дала обещание не вступать в новый брак. Придворные, опасавшиеся за своё влияние, ревниво следили за выполнением этого обещания, но военные настояли и 31.12.1067 Роман был тайно введён во дворец, и его противникам пришлось признать совершившийся факт.

В силу договора, формально заключённого с Романом, титул василевса носили, вместе с ним, и сыновья Дуки. Придворная партия ненавидела нового царя, мужественного, но малопроницательного и легко увлекавшегося. Её интриги проникли даже в армию, в среду высших офицеров. Они распускали слухи, будто Роман намерен свергнуть Евдокию и сыновей Дуки, чтобы единовластно править государством.

Роман решился лично отправиться в поход на тюрок-сельджуков, с беспримерным варварством опустошавших азиатские фемы. Но неуместная скупость и неспособность прежних правителей сократили ряды армии и деморализовали её. Роман смог собрать только разношёрстную массу туземных и наёмных воинов, недисциплинированных и не привыкших к совместным действиям. Тем не менее походы 1068 и 1069 годов были довольно удачны.

Получив дурные вести из Италии, где Роберт Гвискар взял Отранто и осадил Бари, последний опорный пункт греческого владычества, Роман на время вернулся в Европу. В его отсутствие сельджуки разбили Мануила Комнина, командовавшего армией, взяли и разграбили Хоны, а их предводитель Алп-Арслан овладел важнейшей пограничной крепостью в восточной Армении — Манцикертом. Роман, во главе 100-тыс. армии отправился на Восток и вновь занял Манцикерт.

Алп-Арслан предложил мир, но Роман отверг его и тогда 19.08.1071 у Манцикерта произошла генеральная битва, во время которой измена Андроника Дуки и некоторых других офицеров погубила византийскую армию. Сам царь был взят в плен, но через неделю отпущен Алп-Арсланом под условие выдачи сельджукских пленных и уплаты миллиона золотых.

Получив известие о поражении Романа, которого сочли погибшим, придворные провозгласили регентство Евдокии и старшего царевича Михаила Дуки, но в действительности государством правил смертельный враг Романа, кесарь Иоанн Дука.

Когда от Романа было получено собственноручное письмо о скором прибытии его в столицу, встревоженная оппозиция потребовала от царицы, чтобы она объявила своего мужа лишённым престола. Упорство царицы привело к изгнанию её из дворца и пострижению в монастырь, а императором был провозглашён её старший сын Михаил.

После нескольких неудачных столкновений с войсками, высланными из Константинополя, Роман заперся в киликийском городе Адане, где его осадил в 1072 Андроник Дука и заставил сдаться под условием пострижения в монахи и отречения от престола. За это ему была обещана личная безопасность, подтверждённая от имени Михаила тремя митрополитами. Враги Романа не сдержали своего слова — он был ослеплён, причем проделано это было настолько зверски, что через несколько месяцев Роман умер.