Он окончил Университет Калифорнии в Беркли в 1941 году, и вскоре после этого получил контракт с компанией «MGM». Актерский дебют состоялся в картине «Тень худого человека» в 1941 году, роль его была далеко не заглавной. Но уже в 1942-м Нельсон получил главную роль, сыграв Джо Трэйси в военной драме Джорджа Б. Сэйтца «Янки на Бирма-роуд». Примерно в тот же период актер начал довольно успешно выступать и на Бродвее.
Во время Второй мировой войны Нельсон оказался в рядах военных сил, однако и будучи в армии, он продолжал играть. Вернувшись, он продолжил карьеру актера. Он много и активно выступал на сцене на протяжении 1960-х и 1970-х годов. За роль в спектакле «The Act», в котором также сыграла Лайза Минелли, Нельсон в 1978 году получил номинацию на престижнейшую американскую театральную награду «Тони» в категории «Лучший актер».
Пожалуй, главный киноуспех ждал его в 1954 году – именно тогда был отснят первый фильм с участием персонажа Джеймса Бонда, это была телевизионная постановка «Казино Рояль». Так, он стал первым «Агентом 007», на 8 лет опередив Шона Коннери, сыгравшего легендарного суперагента в первом фильме о приключениях Джеймса Бонда. Строго говоря, «Бонд» Бэрри Нельсона был вовсе «не официальным» - условно его можно назвать «Джеймс Бонд № 0» или даже «не совсем Бонд» - его героя звали «удачливый Джимми». Однако, именно Нельсона история кинематографа все-таки считает первым исполнителем одного из самых популярных киноперсонажей всех времен. Кстати, сам актер позже вспоминал, как получив роль, он долго не мог придумать, как же его играть – этого неизвестного еще Бонда. Любопытно, что Бэрри Нельсон стал и первым (и единственным) американцем, сыгравшим Бонда.
Среди других известных фильмов с участием Бэрри Нельсона - экранизация бестселлера Артура Хейли «Аэропорт» в 1970-м и знаковый фильм по Стивену Кингу «Сияние», снятый Стэнли Кубриком в 80-м году. В «Сиянии» он играл роль управляющего дьявольским отелем, в котором живет герой Николсона. Это - «типичный американский управляющий» – немного циничный, немного аристократичный, настолько же вежливый и всегда готовый подставить ближнего. По многим отзывам критиков, эту роль следует считать самой лучшей ролью Бэрри Нельсона.
Вообще же Нельсон отметился актерскими работами не менее чем в шестидесяти кино- и телекартинах. Среди телесериалов, в которых принял актерское участие Бэрри Нельсон – «Саспенс», «Сумеречная зона», «Доктор Килдэр», «Любовь по-американски», «Истории привидений», «Звездный крейсер Галактика» и множество прочих.
Свою последнюю роль Нельсон сыграл в телесериале «Монстры» в 1990 году. С тех пор Бэрри Нельсон оставил работу и в Голливуде, и на Бродвее. Он начал путешествовать, занялся благотворительностью, а также приступил к написанию мемуаров. Впрочем, закончить свои мемуары ему так, к сожалению, и не удалось.
Актер был женат дважды – в первый раз он женился в 1951 году на Терезе Селли, этот брак распался. Вторая супруга Нельсона, Нэнси Хой оставалась с ним до самой смерти.
Известно, что жизнь супругов Нельсонов проходила между США и Францией.