Родился в 751. Второй сын Пипина Короткого, младший брат Карла Великого.

По разделу, сделанному Пипином перед смертью (768), Карломан получил Эльзас, Бургундию, Прованс, т.н. Готию, восточную часть Аквитании, Алеманию и, вероятно, южные части Австразии и Нейстрии.

С самого начала царствования между братьями установились плохие отношения. Во время похода Карла в 769 для усмирения восстания в Аквитании Карломан не оказал ему обещанной помощи, чем навлёк на себя обвинение в вероломстве.

Состоявшееся в 770 (благодаря матери Карломана, Берте) соглашение между братьями, позволившее им некоторое время действовать согласно, скоро снова распалось — вероятно, в связи с делами Италии, где Карломан был более склонен поддерживать лангобардов, а Карл — Папу Стефана IV. Между братьями готова была вспыхнуть война, когда 4.12.771 Карломан умер.