Дэвис родился в 1925 году в Гарлеме, штат Нью-Йорк. Свою карьеру он начал уже в трёхлетнем возрасте, выступая вместе со своими отцом и дядей в составе Трио Уилла Мастина. Отслужив два года в армии, он вернулся в трио и начал выступать в ночных клубах, где вскоре завоевал популярность. Помимо пения и танцев Дэвис учился играть на множестве музыкальных инструментов.
В 1954 году он подписал контракт с Decca Records и выпустил свой первый альбом, озаглавленный как Starring Sammy Davis, Jr. В тот же год Дэвис попал в серьёзную автомобильную аварию, в результате чего лишился левого глаза.
Когда Дэвис находился в лечебнице, его друг актёр Эдди Кантор рассказал ему о сходстве между еврейской и афроамериканской культурами. Вдохновлённый этим разговором, Дэвис, родившийся в семье матери-католички и отца-протестанта, начал изучать историю евреев. Через несколько лет он обратился в иудаизм. Одна прочтённая им фраза, описывающая выносливость еврейского народа, особенно заинтересовала его: «Еврейский народ не умрёт. Три тысячелетия пророческих наставлений дали им неколебимый дух покорности и создали в них волю к жизни, которую не может сокрушить никакое бедствие».
Авария поставила карьеру актёра под угрозу, однако в 1955 году он вернулся на сцену. Новым шагом в его карьере стало появление в 1956 году на Бродвее в мюзикле «Мистер Вандерфул».
С 1959 года Дэвис вместе с Фрэнком Синатрой и Дином Мартином был главным ядром неофициальной звездной группировки под названием «Крысиная стая». Сэмми был единственным темнокожим участником группы, в которую в свое время входили Богарты, Лиз Тейлор и Ричард Бартон, Мики Руни, Эррол Флинн, Спенсер Трейси, Кари Грант и Джимми ван Хьёсен. Также среди крысят были и Кэтрин Хёпбёрн, и Лана Тёрнер, Ким Новак, Джуди Гарленд, Барбара Стрейзэнд и Мерилин Монро.
Вместе с Rat Pack он снялся сразу в нескольких художественных фильмах, первым из которых стала криминальная комедия 1960 года «Одиннадцать друзей Оушена». Сэмми и его «ближний круг» были абсолютными кумирами того времени: вся Америка повторяла песни, танцевальные движения и шутки этой компании.
Мало кто знает что при жизни Сэмми много лет увлекался фотографией и очень любил снимать своих знаменитых друзей.
В 1966 году Дэвис начал вести собственную телевизионную программу «Шоу Сэмми Дэвиса-младшего», а в 1970 году появился в камео-роли в фильме «Элвис: Всё, как есть». В 1972 году он записал кавер-версию песни The Candy Man из фильма «Вилли Вонка и шоколадная фабрика», которая тут же стала хитом в США и достигла первой строчки Billboard Hot 100.
В 1988 году Дэвис воссоединился с Синатрой и отправился в международное турне, где выступал также с Дином Мартином (ещё одним бывшим участником Rat Pack) и Лайзой Миннелли.
Дэвис неоднократно сталкивался с расизмом, в частности, он подвергался нападкам за свой второй из трёх браков со шведской актрисой Мэй Бритт.
В 1945 году Сэмми Дэвис-младший, его отец Сэмми и дядя Уилл Мастин были приглашены в отель «Эль Ранчо Вегас» за пятьсот долларов в неделю. Лас-Вегас был новой Меккой шоу-бизнеса, El Rancho и Last Frontier — самыми роскошными отелями. Но хотя они были приглашены выступать на открытии в зале отеля, им не разрешили остановиться в гостинице из-за цвета их кожи. Они жили в бараке для прислуги. Их апартаментами была лачуга за городом, сделанная из деревянных ящиков и картона, — по двойной цене комнат в El Rancho. Даже такая величина, как Билли Экстайн, который тоже работал в Вегасе в то время, не мог остановиться в отеле, где выступал. Концертные залы и казино тоже были под запретом — черные могли развлекать, но не могли играть в казино и общаться с белыми.
Позже Сэмми Дэвис-младший сломал эти преграды своим талантом и настойчивостью. К 1970-м годам участник трио Уилла Мастина, он стал сольной звездой, которой в Вегace платили больше 175 000 долларов в неделю. Пользуясь своей властью знаменитости и отказываясь принимать ответ «нет», Мистер Шоу-бизнес сделал так, что черные могли не только выступать, но и отдыхать и развлекаться в городе. Посещая встречи руководства гостиниц и сотрудничая с администрацией, вместо того чтобы бороться с ней, Дэвис добился к концу пятидесятых, чтобы больше черных приглашалось в Сэндх, где он выступал.
Он участвовал в правозащитной деятельности, и в 1968 году Национальной ассоциацией содействия прогрессу цветного населения ему была вручена Медаль Спингарна, присуждаемая наиболее отличившимся афроамериканцам. Помимо этого Дэвис также номинировался на «Золотой глобус» и «Эмми» за свои телевизионные выступления.
Личная жизнь
В 1957 Сэмми Дэвис имел связь с Ким Новак, тогда молодой актрисой, состоящей на контракте со студией Columbia. Директор студии, Гарри Кон, был недоволен факту этих отношений , потому как в то время действовало жесткое табу на смешение рас. Он обратился к своему другу бандиту Джонни Розелли, с просьбой, чтобы тот повлиял на Дэвиса, и прекратил отношения с Новак. Розелли, чтобы напугать Дэвиса прибегнул к его похищению на нескольких часов. Чтобы уладить все противоречия в 1958 году Дэвис торопливо женился на темнокожей танцовщице Лорее Уайт и через год развелся.
В 1960 году Дэвис вызвал недовольства еще раз, когда женился на белой актрисе шведского происхождения Мэй Бритт. Дэвис в то время исполнял главную роль в бродвейском мюзикле "Золотой мальчик" (Golden Boy), за которую он получил номинацию Tony Award за лучшую мужскую роль и получал письма с угрозами. В то время межрасовые браки были запрещены законом в 31 штатах США (но были полностью законными в Нью-Йорке), и только в 1967 году Верховным судом США, эти законы были признаны неконституционными. У Дэвиса и Бритт была одна дочь и два приемных сына. Дэвис был занят своей работой почти непрерывно и проводил мало времени со своей женой. Они развелись в 1968 году. После Дэвис признался, что у него параллельно был роман с певицей Лолой Фалана.
В том же году Сэмми Дэвис начал встречаться с Олтовайз Гор, танцовщицей из мюзикла Golden Boy. Они поженились 11 мая 1970 года. В 1989 году Дэвис и Олтовайз усыновили мальчика Мэнни. Этот брак оказался удачным и супруги прожили вместе до самой смерти Дэвиса.
Скончался Дэвис в 1990 году в Беверли-Хиллз от рака горла, отказавшись от операции, поскольку она не оставляла ему шансов петь. В его память в Лас-Вегасе на десять минут был погашен свет.
В 2001 году он был посмертно награждён премией Grammy Lifetime Achievement Award.