У Марка было три сестры и брат. Сам Руффало описываеи себя как "счастливого ребенка", т.к. его воспитывали в "очень большой итальянской семье с большим количеством любви". Когда Марку исполнилось 13 лет, семья переехала в г. Вирджиния-Бич (штат Вирджиния), где отец мальчика нашел новую работу. Об актерской профессии мечтал с детства.
В школьные годы Марк успешно занимался рестлингом и легкой атлетикой, которые впоследстии забросил из-за увлечения актерским мастерством.
После школы он получил высшее образование в Первой Колониальной Высшей Школе (First Colonial High School), а потом снова переехал со своей семьей в Сан-Диего (штат Калифорния), чуть позже - в Лос-Анджелес, где он брал уроки актерского мастрества в Консерватории Стеллы Адлер (Stella Adler Conservatory). Там же, в Лос-Анджелесе, Марк стал одним из создателей компании "Театр Орфея" (Orpheus Theatre Company), в котором он был сценаристом, режиссером и актером во многих пьесах. Однако этот период в жизни известного теперь актера едва ли можно назвать успешным, 9 лет он зарабатывал только на том, что занимался, кроме всего прочего, и аниме.
Первый успех Марку принесли роли второго плана в фильме "Дантист" и криминальной комедии "Медвежатники". Тогда он знакомится с писателем Кеннетом Лонергеном. Начав сотрудничать с ним, Марк появляется в некоторых из пьес писателя, которые привлекают внимание к его таланту. Американская академия даже удостоила его номинации за фильм "Можешь рассчитывать на меня ", за роль в котором он также был награжден Ассоциацией лос-андлесских критиков и призом на Международном кинофестивале в Монреале.
Работая в двух театрах, исполнял одновременно обязанности от актера, сценариста, режиссера и продюссера до светотехника и строителя. После театральной пьесы "Это наша молодость" ("This Is Our Youth"), он был замечен, и начался новый этап его жизни - кинематограф. Его первый фильм "Можешь расчитывать на меня"( "You Can Count on Me") сделал его знаменитым.
90-е годы провел, снимаясь в массовых сценах в фильмах про индейцев. В 1996 появился в комедийной роли в картине «Последняя большая штука», затем вышел еще один более-менее заметный фильм - «Сейф» (1998). Продолжал попытки пробиться в иных амплуа, и в 1996 вышел фильм по его сценарию «Судьба Марти Файна», который пользовался успехом на кинофестивале «Сламдэнс».
Карьера Руффало стала меняться к лучшему после того, как он был задействован в бродвейской постановке «Это наша молодость». Но его звездным часом стало участие в картине «Ты можешь на меня положиться» (2000) – за эту роль Руффало получил награду за лучшую актерскую работу на кинофестивале в Монреале, а также приз жюри фестиваля в Торонто как самый многообещающий актер, кроме того, был номинирован на премию Independent Spirit Award.
После этого рейтинги актера поползли вверх, и дорога в крупнобюджетное кино была для него открыта. Частичная фильмография: «Гудини» (1998), «Погоня с дьяволом» (1999), «Последний замок» (2001), «Говорящие с ветром» (2002), «Вид сверху», «На перепутье» (2003), «Вечное сияние разума», «Из 13 в 30», «Соучастник» (2004), «Между небом и землей», "По слухам" (2005), "Вся королевская рать" (2006), "Зодиак" (2007).
В Голливуде его сравнивали с юным Марлоном Брандо. Став популярным в кино, он не изменяет своему маленькому, малоизвестному театру в Лос-Анжелесе, режиссируя и играя в пьесах в промежутках между большими кино-проектами, в которых Марк последнее время активно берет участие.
Руффало мог сыграть одну из главных ролей, Меррилла, в фильме М. Найта Шьямалана «Знаки», но в следствие болезни покинул проект..
В 2002 году, когда актер был на гребне успеха, ему был поставлен безутешный диагноз - опухоль мозга. После перенесенной операции у Марка развился частичный паралич лица, но он пережил все беды с завидным мужеством и вскоре вернулся к активной жизни и карьере.
Марк Руффало с 2000 года женат на американо-французской актрисе Санрайз Когни (Sunrise Coigney). Супруги счатливы в браке, вскоре ожидают уже третьего ребенка.