Михаил родился в 1010 в Пафлагонии (откуда его прозвище) в незнатной семье. У него было не меньше четырёх братьев (среди которых наиболее известен придворный евнух Иоанн Орфанотроф) и сестра. Незнатность он компенсировал красотой и обаянием, омрачавшимися приступами эпилепсии.

Когда брат Иоанн познакомил его с императрицей Зоей, дочерью Константина VIII, та сделала юношу своим фаворитом. Братья с Зоей организовали заговор против императора Романа III Аргира. В 1033 Роман заболел подозрительной болезнью, вызванной, вероятно, действием медленного яда. Не дождавшись действия яда 11.04.1034 сторонники Михаила придушили императора в бане. Престарелая Зоя в тот же день отдала руку и венец своему фавориту.

Новый император сразу же пристроил на видные государственные посты своих родственников. Так, имущество богатого Константина Далассина было передано брату Константину, он же получил в управление Болгарию. Другой брат, Никита, стал наместником в Сирии, но вскоре умер. Зять самодержца, Стефан Калафат, из конопатчиков стал командующим флотом.

Наиболее влиятельным из них был брат императора, Иоанн Орфанотроф, который официально занимал должность управителя сиротскими учреждениями (отсюда его прозвище "Орфанотроф", т.е. "кормилец сирот"). Вверив Орфанотрофу финансы, Михаил первоначально сохранил за собой контроль над армией. Однако из-за прогрессировавшей эпилепсии император всё более отходил от дел, удовлетворяясь внешними символами власти.

Орфанотроф начал смещать с военных постов провинциальных магнатов, назначая вместо них своих родственников и преданных ему гражданских лиц. Его финансовая политика (новые поборы, порча монеты) вела к обогащению торговой знати и обнищанию основной массы населения.

Новая знать предавалась разгулу и ссорилась как со старыми придворными, так и с простым народом, учреждая всё новые налоги и расхищая казну. Это продолжалось и несмотря на стихийные бедствия вроде засухи 1037 года. В результате значительную часть царствования Михаила занимали восстания, начиная с бунта в Антиохии в 1034 и заканчивая Болгарским, которое стало крупнейшим событием его правления.

Старая знать тоже отвечала пафлагонцам неприязнью. В оппозицию перешли крупнейший полководец Георгий Маниак, будущий патриарх Михаил Керуларий, тесть Константина Дуки Иоанн Макремволит. Чтобы упрочить положение, Михаил по совету Иоанна усыновил своего племянника Михаила, сына Стефана Калафата, хотя и не любил его. Тем не менее, заговоры и измены раскрывались вплоть до смерти императора, а провинциальные администраторы и мелкие феодалы, видя ослабление центральной власти, принялись за междоусобицы.

Историки отмечают покровительство Михаила Церкви и отчисление больших сумм на благотворительность. Император построил в Константинополе приют для нищих и монастырь для бывших проституток. Большие деньги были уплачены патриарху Алексию для легитимации власти Михаила.

В 1035 Михаил направил флот к берегам Египта, находившегося под властью Фатимидов. Он опустошил нильскую дельту, и устрашённый халиф Египта подписал 30-летний мир. Были отражены очередные нападения печенегов и арабов. Примерно к тому же времени относятся походы византийцев в Васпуракан (в Армении). Первый поход окончился поражением из-за низкой дисциплины ромейского войска, однако со второй попытки у персов был захвачен город Беркри.

В 1038 началась экспедиция Георгия Маниака на Сицилию, где ему удалось отбить у арабов Мессину и Сиракузы. Впрочем, вскоре он поссорился с друнгарием флота Стефаном Калафатом и по его доносу был обвинён в посягательстве на престол и смещён. Бездарный Калафат быстро потерял бóльшую часть Сицилии.

В Южной Италии велись боевые действия Капуи против Неаполя и Салерно. Михаил долго поддерживал Пандульфа Капуанского, но после его поражения от Гвемара Салернского перешёл на сторону последнего и бросил Пандульфа в темницу. В 1040 лангобарды и норманны, покровительствуемые Гвемаром, опустошили византийские владения. Сменивший Георгия Маниака Михаил Докиан потерпел от норманнов три поражения подряд и попал к ним в плен.

В 1040 византийский флот был уничтожен пожаром, что существенно связало Михаилу руки.

Восстание в славянских провинциях империи стало закономерным следствием провала внутренней политики пафлагонцев. Возглавил его Пётр II Делян, который снискал поддержку и простых болгар, недовольных налоговыми притеснениями и эллинизацией, и представителей знати. К нему перебежали из Фессалоники несколько придворных сановников Михаила, увезя с собой императорский обоз с казной и гардеробом. Через несколько месяцев в руках Деляна оказалась значительная часть нынешних Сербии, Македонии, Албании и Греции. В конце концов, Пётр (возможно не без козней Византии) был ослеплён Алусианом, сыном последнего царя Болгарии Ивана Владислава.

Михаил в то время находился в Солуни и был серьёзно болен. Несмотря на болезнь, по прибытии в Константинополь Михаил собрал войско и, воспользовавшись междоусобицами в руководстве болгар, подавил восстание с помощью варяжской гвардии во главе с Харальдом Суровым, будущим королём Норвегии.

Орфанотроф, предвидя близкий конец Михаила, добился усыновления Зоей сына Стефана Калафата — Михаила. Император возвёл его в достоинство кесаря, после чего Михаил IV принял постриг и 10.12.1041 умер от водянки. Он был похоронен в устроенном им монастыре Космы и Дамиана в Константинополе. Ему наследовал его племянник Михаил V Калафат