Яак родился в музыкальной семье (его мать была музыковедом и работала в Государственной филармонии Эстонской ССР) с детства обучался игре на фортепиано и флейте.
Когда Яак Йоала поступал в музыкальное училище, один из экзаменаторов спросил юношу «Яак, вы уверены, что хотите стать музыкантом, а не гонщиком?» — Увлечение молодого Йоалы картингом было хорошо известно в Таллине.
И все-таки для Яака не было вопроса кем быть. Он рос в музыкальной семье (мать — музыковед, лектор Государственной филармонии ЭССР) и не однажды в детстве прослушивая любимые оперы «Аиду», «Риголетто» мысленно выходил на сцену и пел вместе с настоящими артистами.
Он учился игре на фортепиано «с семи лет до тех пор, пока мама еще имела большую власть». Благодаря приверженности родителей музыке он был постоянным «слушателем» симфонических и камерных концертов, а также оперы еще тогда, когда засыпал на руках у матери: В Таллиннской средней музыкальной школе, затем в музыкальном училище он обучался игре на флейте, а в шестнадцать лет пел и играл на бас-гитаре в одной из первых эстонских бит-групп «Кристаллы» (Kristallid).
К этому периоду 1966 году относится и первая радиозапись певца. В 1968 году следует участие в ансамбле «Северное сияние» (Virmalised) и быстро растущая популярность в регулярной ТВ программе «Гороскоп».
Вначале его приняли всерьез лишь его сверстники. Но вскоре выяснилось, что юноша — не чета обычным солистам бит-ансамблей. Год от года расширялся его репертуар в сторону содержательности и вокальной требовательности, и Яак Йоала обрел друзей среди слушателей всех поколений.
Когда Яака призвали в армию, службу он проходил в Таллинне, и часто появлялся на концертах и в студии звукозаписи. К тому времени он был уже настолько популярен, что для молодёжной передачи эстонское телевидение снимало кадры о службе молодого бойца.
1970 год принес Яаку Йоала первые лавры победы на республиканском конкурсе комсомольской песни, а 1971 год — на конкурсе молодых эстрадных певцов. Начиная с этого времени, он становится одним из самых предпочитаемых композиторами певцов на всех эстонских песенных конкурсах.
В 1972 году он поет на фестивале в Ростоке и Хельсинки, следуют премии за участие в конкурсах «Типпмелоодия» (1972), «Таллин-Тарту» (1972, 1973, 1974), диплом всесоюзного конкурса эстрадных артистов (1974). Но самым успешным стал 1975 год: первое место на фестивале «Вильнюсские башни» и специальный приз жюри на фестивале песни в Сопоте, поставивший Яака Йоала в первые ряды лауреатов этого представительного конкурса.
Яркие, мелодичные песни на русском и эстонском языках, каверверсии прекрасных зарубежных песен. Сложилось мнение, что Яаку Йоала больше подходят песни с широким диапазоном, красивым мелодическим развитием, высокой кульминацией, где можно лучше показать свой голос.
Хороших песен в таком плане было действительно много, и мастерское исполнение Яаком Йоала способствовало их успеху, как на песенных конкурсах, так и у слушателей. Однако постепенно такая манера исполнения стала доминировать.
От штампа Яаку Йоала помог освободиться ансамбль «Радар», открывший перед певцом новые творческие возможности с учетом современного и технического уровня развития. Специально для Яака Йоала пишут песни лучшие советские композиторы Д.Тухманов, А. Зацепин, Р.Паулс.
Разносторонний музыкант, Йоала, как утверждают, в случае необходимости мог один заменить небольшой оркестр. И в самом деле — на эстонском радио есть записи, где он играет на фортепьяно, гитаре, флейте ударных инструментах и… конечно поет сольную и ансамблевую партии.
Осуществилась и детская мечта о театре. Яак Йоала принимает участие в постановках Государственного театра «Эстония» — в мюзиклах «Вестсайдская история» Л.Бернстайна и «Дачниках» Ю.Винтера. В 1984 снимается в художественном музыкальном фильме «Двойники».
В начале 80-х годов Яак Йоала стал наиболее ярким эстонским певцом на советской эстраде.
Муслим Магомаев писал в газете «Советская культура» (№35 1981 г.): Артистическая внешность, броская, именно эстрадная манера пения, без налета вульгарности, подчас выдаваемой за «эстрадную специфику», без штампов, копирования кого-то и чего-то.
А главное — голос яркий, звонкий, наполненный, которым он свободно владеет; крепкое певческое дыхание, коим обладает далеко не каждый вокалист — все это привлекает в нем. Яак Йоала поет красиво, взволнованно, что называется, на нерве.
С 1988 года Йоала покинул советскую сцену, а с распадом СССР окончательно исчез из поля зрения российской аудитории. Но новые власти Эстонии припомнили Йоале его всесоюзную популярность. Его обвинили в предательстве, и долгое время певца не пускали ни на одну концертную площадку.
Последнее появление певца Яака Йоала в эстонской музыке было в 90-х годах, когда он вместе со своими коллегами по эстраде Тынисом Мяги и Иво Линна сделали проект «Las jддda kхik, mis hea» («Пусть остаётся всё, что хорошо»).
«Три тенора» возрождали знаменитые хиты с новым звучанием. В своих интервью сегодня Йоала говорит, что ему надоела работа на эстраде и все, что было вокруг нее. Надоело много ездить, эстрада, считает сегодня Йоала, — дело молодых. Для работы и для удовольствия дома он создал домашнюю музыкальную студию.
Как педагог Таллиннского музучилища им. Георга Отса он обучил несколько молодых певиц. Его первый и отмеченный всеми эстонцами успех — певица Яаника Силламаа, дебютировавшая на конкурсе «Евровидение».
Яак Йоала принимал участие в работе общественной организации, которая защищает исполнительские права эстонских музыкантов. Помогает начинающим эстонским исполнителям.
В одной из программ российского телевидения Яак предстал уже человеком саркастическим: дескать, не хочу петь, потому что не желаю исполнять такую ерунду, какую сегодня поют.
В Эстонии, и сейчас помнят о его успехах в России, а выражение «Кремлевский соловей» частенько использовалось в здешней прессе. Но это — в прошлом. Сейчас Яак Йоала уже не хочеть даже вспоминать слова песен, которые спел со сцены тысячи раз.
В последние годы артист избегал общения с прессой и жил в доме в сельском местности, в двадцати километрах от столицы Эстонии.
17 мая 2011 года был госпитализирован в кардиологическое отделение в связи с вторичным инфарктом, но быстро реабилитировался после прохождения лечения.
Ушел из жизни 25 сентября 2014 года. Похоронен на Лесном кладбище города Таллина.