Родился в 1271 уже после смерти своего отца — великого князя Владимирского Ярослава Ярославича. Его мать, Ростислава, дочь Мстислава Смоленского, воспитывала будущего князя в духе глубокого благочестия.

Тверской стол Михаил унаследовал около 1286 после смерти старшего брата Святослава и успешно воевал с литовцами, напавшими на Тверскую землю.

В 1288 Михаил отказался поклониться (проявить повиновение) великому князю Димитрию Александровичу, и тот с большим войском явился в Тверскую землю, опустошил окрестности Кашина и дошёл до самой Твери, но тут был заключён мир, и Михаил жил в согласии с Димитрием до смерти последнего (1294).

Зато с первых же лет княжения его брата Андрея Александровича началась борьба, несколько раз прерываемая духовенством.

В 1301 Михаил пошёл на помощь новгородцам против шведов, построивших на Неве напротив Охты крепость Ландскрону, но с полпути вернулся, узнав, что эта крепость уже сожжена новгородцами и их союзниками. В том же году он участвовал на съезде князей в Дмитрове, где переговаривали, вероятно, о Переяславле.

После смерти в 1304 великого князя Андрея Александровича Михаил Ярославич оказался старшим в роду Рюриковичей и единственным законным претендентом на великий стол. Но с этим не был согласен Юрий Даниилович Московский. (Его отец Даниил Александрович умер, так и не став великим князем, из-за чего по удельно-лествичному праву всё его потомство лишилось права на этот титул).

Вскоре началась продолжительная борьба Москвы с Тверью из-за великого княжения. Множество бояр прежнего великого князя отъехало в Тверь. Оба князя отправились в Орду, но ярлык на великое княжение достался Михаилу и он с большой ратью пошёл на Москву. Будучи не в силах взять её, Михаил вернулся, заключив с Юрием Данииловичем мир.

В 1308 он снова пошёл на Москву, бился под городом и "много зла сотвори". Вслед за тем Михаил Ярославич был приглашён в Новгород для разбора возникших там споров по поводу тверских владений в новгородской области и уладил дело, не возвращая земель.

Но в 1312 Михаил Тверской поссорился с Новгородом, вывел оттуда своих наместников, захватил пограничные новгородские волости: Торжок и Бежичи (Бежецк), и не пропускал в Новгород подвоз хлеба, в котором была большая нужда в Новгороде, недавно пострадавшем от сильного пожара. Новгородцы послали своего владыку Давида в Тверь. Михаил согласился на мир только тогда, когда новгородцы заплатили ему 1500 гривен (около 700 фунтов серебра). После заключения мира Михаил вновь отправил к новгородцам своих наместников.

Новгородцы, поплатившись такою данью, окончательно озлобились против Михаила и в следующем, 1313 году, когда Михаил поехал в Орду за получением ярлыка от нового хана Узбека, решили призвать к себе иного, вольного князя и обратились к Юрию Даниловичу. Московский князь отправил к ним предварительно своего боярина Феодора Ржевского, который схватил Михайловых наместников, посадил их под стражу, а сам повёл новгородцев против Твери. За отсутствием Михаила против них вышел с войском его сын Димитрий. Обе стороны, простояв до заморозов друг против друга на противоположных берегах Волги, заключили мир. Вскоре в Новгород прибыл Юрий Данилович со своим братом Афанасием. Новгородцы с радостью приняли его; в этом они видели возрождение своей вольности.

Но недолго довелось им радоваться. Весною 1315 пришло от хана Юрию приказание явиться в Орду. Должно быть, Михаил нажаловался на него хану. Юрий не смел ослушаться и поехал, а в Новгороде оставил своего брата Афанасия. Вернувшийся Михаил разбил новгородцев под Торжком и казнил главных виновников возмущения. Новгородцы были вынуждены заключить мир, обязавшись заплатить 12 тыс. гривен серебра, а князя Афанасия и новгородских бояр Михаил отправил в Тверь заложниками платежа. Вдобавок Михаил ограбил новгородцев и торжцев, отняв у них доспехи, оружие и коней. Новгородцы отправили своих послов в Орду жаловаться на Михаила, но тверичи переловили этих послов на дороге. С этого времени Михаил стал именоваться "великим князем всея Руси" (вероятно по аналогии с именованием православных иерархов).

Новгородцы не смирились с поражением и в 1317 война с тверским князем вспыхнула вновь. Наместники Михаила выехали из Новгорода. Михаил пошёл на Новгород со всей низовской землёй, а новгородцы укрепили свой город острогом по обеим сторонам Волхова и подняли на ноги свою землю: вооружились псковичи, ладожане, корела, жители Руси, ижора и водь. Но до Новгорода Михаил так и не добрался. Войско его заблудилось среди озер и болот и умирало от голода и от стужи, и только жалкие остатки вернулись домой со своим князем, пешие и больные. Думая, что великий князь будет теперь сговорчивее, новгородцы отправили к нему владыку Давида и умоляли отпустить их коварно задержанных братьев. Михаил сначала упрямился, но потом помирился с новгородцами в Торжке, когда услыхал, что Юрий возвратился из Орды и идет на него.

Тем временем Юрий Даниилович продолжал злоумышлять против Михаила. Отправившись в Орду по приказанию Узбека, еще в 1315, он прожил там более двух лет. За это время Юрий вошёл в милость к Узбеку и женился на его сестре Кончаке, которая приняла в крещении имя Агафии. Юрий хотел наказать своего противника и в 1317 повёл на своего врага татар под начальством татарского князя Кавгадыя, ехавшего с ним в качестве татарского посла. С татарами были хивинцы и мордва. В пути к ним присоединились суздальские князья. Путь их лежал в Тверскую землю, но это не помешало татарам бесчинствовать на пути в Костроме, Ростове, Дмитрове и Клине.

Михаил выступил против них и 22.12.1317 встретился с ними за сорок верст от Твери на урочище, называемом Бортенево. Рать Юрия была разбита. Сам Юрий спасся бегством в Торжок, а его брат Борис, жена Агафия и Кавгадый попались в плен.

Юрий из Торжка прибыл в Новгород. С новгородским ополчением пошёл новгородский владыка Давид. К ним присоединились псковичи. Но нападать на Михаила было бесчестно, поскольку у новгороцев с Михаилом недавно был заключён мир. Поэтому новгородцы решили прежде послать к Михаилу требование сделать всё угодное Юрию, а вступить с ним в войну предполагали только тогда, когда он откажет.

Михаил был сговорчив, потому что боялся ханского гнева. Однако отпустить жену Юрия было невозможно, поскольку она умерла в плену; говорили, что её там уморили зельем. Михаил выдал Юрию только её тело, которое было отвезено для погребения в Ростов, в церковь Пресвятой Богородицы. При посредничестве новгородцев, соперники порешили на том, чтобы им обоим идти в Орду. Кавгадый, находясь в плену у Михаила, уверил его, что он помогал Юрию и напал на Михаила без ханского дозволения.

Юрий с ростово-суздальскими князьями и Кавгадый поспешил в Орду, где обвинили Михаила в смерти сестры хана и сокрытии части дани. Михаил был вызван в Орду на ханский суд.

Опасаясь прогневить татар и спровоцировать очередной набег на Русь, Михаил отказался от побега и предпочёл терпеть унижения и побои в ожидании смерти. 6.09.1318 достиг он устья Дона, где тогда расположился хан Узбек. Хан приказал князьям рассудить дело Михаила Ярославича с Юрием. Сторонники Юрия обвиняли Михаила в том, что он брал дани с городов, управляемых этими князьями, и не отдавал царю. На этом суде был и Кавгадый, который старался всеми способами очернить Михаила.

Через неделю Михаилу произнесли такое обвинение: "Не давал царёвой дани, бился против царского посла и уморил княгиню жену Юриеву". Михаила заковали в колодки и около месяца возили по степи вместе с ханским кочевьем. Наконец 22.11.1318 после долгих мучений Михаил Ярославич был убит людьми Юрия Данииловича и Кавгадыя. Очевидно, хан долго колебался исполнить приговор суда, но Юрий настаивал и добился смерти Михаила.

Тело Михаила привезли в Москву и погребли в Спасском монастыре. Вдова Михаила и его сыновья, узнав о печальном конце тверского князя, обратились к Юрию с просьбой отдать им тело убитого для погребения в Твери. Юрий согласился выдать тело только после заключения выгодного для Москвы мира. Один из сыновей убитого князя, Александр, ездил за телом отца в Москву. Михаила погребли в церкви Спаса в Твери. В 1549 Михаил Ярославич Тверской был канонизирован.

От брака с Анной Димитриевной Ростовской Михаил имел сыновей: Димитрия Грозные Очи, Александра, Константина, Василия и дочь Федору.