Родился в 652. Старший сын Константа II. После отъезда отца в Италию Константин вместе с матерью и братьями остался в Константинополе. После того как его отец в 668 был убит в Сиракузах, Константин был провозглашён жителями столицы императором. В то же время сицилийцы провозгласили императором некоего армянина Мизизия, призвавшего на помощь сарацин. Константин с большим флотом прибыл в Сицилию, схватил Мизизия и убил его вместе с убийцей своего отца, после чего он возвратился в Константинополь.

Его братья Тиберий и Ираклий, имевшие титулы августов, склонив на свою сторону азиатские легионы, потребовали разделить с ними власть, ссылаясь на пример Святой Троицы. Но Константин приказал казнить представителей легионов, принесших ему это требование. Устрашив мятежников, он привёл их к повиновению. Братьев же простил и освободил от наказания.

Император вёл многолетнюю тяжёлую войну с Арабским халифатом. В 670 арабы захватили на малоазийском побережье Кизик, а в 672 — Смирну. Летом 674 арабский флот подступил к Константинополю. Константин выставил большой флот, и между противниками вплоть до поздней осени ежедневно происходили многочисленные морские сражения и схватки. Зимой арабский флот переправился в Кизик, а с приходом весны подступил снова и таким образом вёл войну в течение семи лет.

Однако арабы так и не достигли цели и, понеся значительные потери в битвах с византийскими кораблями, использующими т.н. "греческий огонь", и должны были возвратиться домой. Вблизи Силейского моря их флот был захвачен сильной бурей и почти все корабли погибли. После этого с халифатом был заключён мир на тридцать лет, сохранивший прежние границы государств.

Война во Фракии кончилась не так удачно. В 680 Константин, узнав, что племя болгар поселилось за Дунаем на Огле и совершает набеги на селения, прилегающие к Дунаю, был очень обеспокоен. Он приказал собирать войска во Фракии и, снарядив флот, отправился сам против них по суше и по морю. Пешее войско он поставил близ Огла на берегу Дуная, флот стал неподалеку. Болгары, увидев войско, собранное в полном боевом порядке, отступили и скрылись в укрепленном месте.

Но вскоре император, страдая от подагры, был вынужден отплыть с пятью кораблями и со всей свитой в Месемврию, чтобы, по обыкновению, принять ванны. Он оставил стратигов и войско, приказав им вызывать болгар на бой и выманивать их из укрепления. Но конница, поверив слухам, что император бежал, охваченная страхом, сама обратилась в бегство. Болгары, увидев это, начали их преследовать. Добравшись до Дуная и переправившись через него, болгары дошли до Варны. Покорив живущих там славян, болгары поселились среди них. Отсюда они стали нападать на крепости и города византийцев, так что Константин согласился в конце концов выплачивать им дань.

После этого Константин не вёл войн и прилагал все усилия для прекращения церковных распрей. В ноябре 680 он собрал в Константинополе VI Вселенский собор, который утвердил догматы, установленные пятью предыдущими соборами, осудив монофелитов. После этого монофелиты остались в основном на оккупированных арабами землях.

Незадолго до смерти, в 681, Константин лишил своих братьев титулов августов и приказал отрезать им носы (физическое уродство лишало прав на престол). Император умер в 10.07.685 от дизентерии, успев объявить своего сына Юстиниана соправителем и преемником.