Родился 20 ноября 1927 года в селе Бергамак Муромцевского района Омской области.
Детство и юность провёл в городе Таре, которую всю жизнь считал своей родиной. Отец, председатель колхоза, в 1941 году ушёл на фронт.
В 1942 году Ульянов стал регулярно посещать занятия в театральной студии, которую организовала украинская театральная труппа, находящаяся в эвакуации. В этой студии многие тогда ещё мальчишки и девчонки влюбились в театр. Первая роль Ульянова — цыган в постановке «Цыгане». В 1944 году он уехал в Омск продолжать актёрскую учёбу в студии при Омском драматическом театре. Окончив два курса Омской студии, будущий народный артист отправился в Москву и в 1946 году поступил в Театральное училище имени Б.В. Щукина.

После окончания училища в 1950 году Михаил Ульянов начал играть на сцене Театра имени Евгения Вахтангова, на долгие годы связав с ним свою творческую судьбу. Его амплуа определилось сразу и чётко: молодой социальный герой, достоверный, современный, сегодняшний. Очень быстро это нашло своё подтверждение в знаменательном для театра спектакле по пьесе А.Н. Арбузова «Город на заре». 
В первое десятилетие работы в театре роли Ульянова были главные и второстепенные, положительные и отрицательные, классика и современность. Среди калейдоскопа образов выделилась и осталась роль Рогожина в инсценировке романа Ф.М. Достоевского «Идиот». 
Эта роль выдвинула молодого артиста в первые ряды, тем более, что почти одновременно он создал образ своего современника в пьесе А.Н. Арбузова «Иркутская история», который стал как бы, знаменем этого времени. Роль Сергея написана несколько однозначно, но Ульянов наделил его такими душевными человеческими красками, что сразу полюбился зрителю. 
1960-е годы — это время рождения замечательных, могучих характеров, созданных Ульяновым в кино. Его знаменитый Трубников («Председатель», 1964) стал советской классикой; мятежник Митя Карамазов («Братья Карамазовы», 1968), генерал Чарнота («Бег», 1970), сыгранный с неистовым актёрским бесстрашием, маршал Жуков, настолько достоверный, что многие зрители воспринимают актёра и персонаж как единое целое, эти и многие другие работы вписаны в золотой фонд отечественного киноискусства.
В театре артист сыграл Антония («Антоний и Клеопатра», 1971), воина, не мыслящего себя без грома оружия и звуков труб, несущих с собой жизнь или смерть. В 1976 году Михаил Ульянов вновь играет трагедию Шекспира. На этот раз — «Ричарда III». Ульяновский Ричард — злобный интриган, игрок, волею случая забравшийся на престол, не знающий разницы между добром и злом. 
Много и интересно работал М.А. Ульянов на телевидении и радио. Он сыграл в театре Ленина в постановке Роберта Стуруа «Брестский мир», Цезаря в инсценировке по роману Торнтона Уайлдера «Мартовские иды», Шмагу в блистательном спектакле Петра Фоменко «Без вины виноватые».
В 1973 году он дебютировал как режиссёр, поставив на сцене Вахтанговского театра пьесу В.С. Розова «Ситуация», в 1976 году был сорежиссёром в постановке «Ричарда III», в 1979 году осуществил постановку эпического романа В.М. Шукшина «Я пришёл дать вам волю» и сыграл в нём Степана Разина. В 1985 году поставил сатирический памфлет американского драматурга Д. Харси «Скупщик детей».
В сентябре 1987 года назначен художественным руководителем Театра имени Евгения Вахтангова.

М.А. Ульянов избирался секретарём правления Союза кинематографистов СССР (1986), председателем правления Союза театральных деятелей РСФСР (1986-1991), председателем Союза театральных деятелей России (1991-1996). 
С 1996 года — Почётный Председатель Союза театральных деятелей России, академик Национальной академии кинематогарфических искусств и наук России. 
Был избран народным депутатом СССР (1989-1992), являлся членом Центральной ревизионной комиссии ЦК КПСС (1976-1990), членом ЦК КПСС (1990-1991).
В 1959 году Ульянов женился на актрисе Алле Парфаньяк (1923-2009). В том же году у них родилась дочь Елена.
1 марта 2007 года у Михаила Ульянова родились правнуки — двойняшки Настенька и Игорь. Когда они появились на свет, актёр уже находился в больнице, но всё-таки дождался правнуков.

В 1988 году режиссёром Мириной Голдовской был снят документальный фильм о творчестве актёра «Михаил Ульянов. Хроника одной роли».

Михаил Александрович написал три книги: «Моя профессия» (1975), «Работаю актёром» (1987), «Возвращаюсь к самому себе».

Михаил Ульянов скончался вечером 26 марта 2007 года на 80-м году жизни в Центральной клинической больнице Москвы. Похороны актёра состоялись 29 марта на Новодевичьем кладбище столицы (участок № 10, ряд № 10, место № 1).
26 сентября 2008 года на на могиле артиста открыт памятник. По замыслам авторов Михаил Ульянов изображён на сцене Вахтанговского театра, где он служил более пятидесяти лет.

2 октября 2009 года в Москве, на Большой Бронной улице, дом 29, была установлена мемориальная доска в память о великом актёре.