Поначалу он хотел стать актером, но когда не смог найти работу в театре, сосредоточился на пении. Прорывом для Рэя стали выступления в детройтском 'Flame Show Bar', ночном клубе для черных, где он разработал свой отличительный эмоциональный и чрезвычайно активный физически стиль исполнения. Джонни свободно двигался на сцене, неистовствуя, рвал на себе волосы, размахивал руками, срывал занавеси, падал на пол, позволял чувствам искажать лицо, а то и плакал, пока пел. Тексты его песен всегда были проникнуты страстью и ощущением срочности, страхом не успеть. Выступления Рэя в 'Flame Show Bar' привлекли к нему внимание ру оводителей звукозаписывающей компании, и в октябре 1951 года он записал композиции 'Cry' и 'The Little White Cloud That Cried'. В его исполнении песни, казалось, призывали к революции и совершенно перевернули музыкальный мир. Они мгновенно взлетели на верхние места хит-парадов и занимали 1-е место в течение 11 недель. В итоге, было продано 3 миллиона копий записей.
С 1951 по 1959 год Рэй выдал более 20 невероятно популярных хитов. Некоторые, включая 'Please, Mr. Sun', 'Here Am I-Broken Hearted' и 'Walkin' My Baby Back Home', имели оглушительный успех во всех частях света, и на протяжении большей части 50-х он зарабатывал более миллиона долларов в год, записывая песни, выступая на концертах и снимаясь в кино. Однако его слава шла рука об руку с алкоголизмом, а также нетрадиционным образом жизни – Джонни был открытым бисексуа лом, а быть геем в те времена означало пойти против закона, и певца несколько раз арестовывали по обвинению в преступлениях против нравственности. В то же время у паренька, выросшего на ферме, был роман, очень публичный, с Дороти Килгаллен (Dorothy Kilgallen), журналисткой из высшего нью-йоркского общества, которая к тому же была старше его на 14 лет. В 1952-м, после первых концертов в Нью-Йорке (New York), он женился на Мэрилин Моррисон (Marilyn Morrison), но уже в следующем году пара разъехалась, а в 1954-м они развелись.
Начиная с конца 50-х слава Рэя начала меркнуть, отчасти по причине неумеренного образа жизни и сообщений о его бисексуальности, отчасти потому, что на подходе были новые таланты, готовые в очередной раз перевернуть мир, и вскоре Джонни стал одной из многих жертв изменений, произошедших в сфере музыкально о бизнеса. В 70-х он, казалось, снова нашел себя и появился в образе шансонье в кабаре, и, несмотря на проблемы в Соединенных Штатах, он оставался очень популярным за рубежом, особенно в Австралии (Australia) и Англии (England), где продолжал собирать большие залы вплоть до конца 80-х.
Последнее выступление Джонни Рэя состоялось 6 октября 1989 года в Салеме (Salem), на сцене Grand Theatre. Он умер от отказа печени 24 февраля 1990 года в Лос-Анджелесе (Los Angeles), в возрасте 63 лет. Это был несчастливый конец для артиста, сделавшего десятки 'золотых' записей и открывшего дорогу Элвису Пресли (Elvis Presley), 'The Beatles', Бобу Дилану (Bob Dylan) и Элтону Джону (Elton John) и сексуальной энергии рок-н-ролла. За вклад в звукозаписывающую индустрию Рэй был удостоен звезды на Голливудской Аллее Славы (Hollywood Walk of Fame)