Старший сын Романа Ростиславича Смоленского.

Ярополк княжил в Смоленске в периоды киевского княжения своего отца. В первый раз, когда Андрей Юрьевич Боголюбский был недоволен вокняжением в Киеве Владимира Мстиславича после смерти своего брата Глеба, Андрей Боголюбский дал киевское княжение Роману Ростиславичу. Роман, владея смоленским престолом и соседствуя с сильным княжеством Андрея, был более сговорчив, нежели младшие Ростиславичи, владевшие уделами в Киевской земле.

В результате организованного Андреем безрезультатного похода на Киевщину великим князем Киевским стал Ярослав Изяславич, а Роман вернулся в Смоленск.

В 1174, после смерти Андрея Боголюбского, Ярослав Изяславич добровольно уступил княжение в Киеве Роману Ростиславичу, который оставил в Смоленске Ярополка. Однако смоляне призвали на княжение младшего Ростиславича — Мстислава, но тот предпочёл не вступать в конфликт с братом и вернул престол Ярополку.

В 1177, когда после поражения от половцев в битве у Ростовца (1176) Святослав Всеволодович Черниговский стал требовать лишить Давыда Ростиславича удела как виновника поражения, Роман Ростиславич не пошёл на это и был вынужден уступить киевский престол Святославу и вернуться в Смоленск.