В конце сороковых годов Коберн дебютировал на театральной сцене, а немного позже начал сниматься и в телевизионных рекламных роликах. Как актёр театра он впервые появился на сцене «La Jolla Playhouse» в Сан-Диего.
Первое появление в кино произошло в телесериале «Студия один» (Studio One), впоследствии он снимется во множестве сериалов и телепроектов.
Его первый успех в кино связан с вестерном Джона Стерджеса «Великолепная семерка» 1960 года – Джеймс сыграл тогда одного из героев «семерки». Эта роль, хоть и сослужила службу актерской карьере Коберна, однако, для зрителей он еще не стал популярным. Несмотря на это, его уже заметили режиссеры и продюсеры, и понемногу начали поступать предложения к съемкам.
Так, в 1962 году он снимается в картине Дона Сигела «Ад для героев» (Hell Is for Heroes), в 1963 – в детективном триллере «Шарада» Стенли Донена, где главная роль досталась великолепной Одри Хепберн. В том же году он появляется и еще в одной картине – боевике все того же Джона Стерджеса «Большой побег» (The Great Escape) со Стивом МакКуином в главной роли. Примечательно, что МакКуин, а также актер Чарльз Бронсон, с которыми Коберн также снимался в «Великолепной семерке», являлись друзьями актера и в жизни. А с Чарльзом Воном, с которым он также сыграл в «семерке», они знакомы еще со времен учебы в колледже.
Между этими ролями Коберн продолжает появляться на телевидении – сплошная череда сериалов, в которой промелькнул или задержался Джеймс Коберн со значительными или эпизодическими ролями, насчитывает несколько десятков лент.
1966 год приносит актеру заслуженную славу – он стал известен благодаря фильму «Парень по кличке Флинт» (In Like Flint) и последовавшему через год его продолжению – «Двойник Флинта». В этих фильмах Коберн сыграл секретного агента, умело пародируя роль Шона Коннери в киносериале о Джеймсе Бонде.
В конце шестидесятых годов актер заинтересовался восточными единоборствами, и даже брал уроки у легендарного Брюса Ли. Позже Коберн не на шутку увлекся и буддизмом, что отразилось на его работе – в этот период он не очень много снимался.
В 1965 году он сыграл в вестерне Сэма Пекинпа «Майор Данди» (Major Dundee), а впоследствии он снимется и ещё в двух картинах этого режиссёра.
В 1967 году Коберн сыграл в популярной комедии «Президентский психоаналитик» (The President’s Analyst). В этом фильме Джеймс Коберн работал также и в качестве продюсера.
В 1971 году Коберн сыграл главного персонажа - ирландского революционера - в фильме Серджо Леоне «За пригоршню динамита» (Giù la testa). В этом вестерне о революции в Мексике его партнёром по съемочной площадке стал Род Стайгер. Примечательно, что сценарий фильма был сначала написан для других актеров – по замыслу их должны были сыграть Джейсон Робардс и Эли Уоллах, однако продюсеры настояли на более известных актерах, в результате чего в ролях «солдат удачи» оказались Коберн и Стайгер.
В 1970-х годах вышло ещё два фильма режиссера Сэма Пекинпы - вестерн «Пэт Гэрретт и Билли Кид» (Pat Garrett & Billy the Kid), где Коберн сыграл главного персонажа, шерифа Гэррета, и драма о Второй мировой войне «Железный крест» (Cross of Iron). Джеймс Коберн и Сэм Пекинпа дружили всю жизнь - до самой смерти режиссёра в 1984 году.
В 1959 году Коберн впервые женился - на Беверли Келли, у супругов было двое детей: Джеймс Харрисон Коберн IV (род. 1961) и Лиза (род. 1967). Но в 1979 году последовал развод. Следующей избранницей актера стала в 1993 году актриса Паула О`Хара.
В восьмидесятых годах, заболев ревматическим артритом, Коберн все реже стал появляться на экранах. В эти годы актер активно увлекся музыкой - он записывал песни с британской певицей Линси де Пол. Однако, он продолжал появляться в телевизионных сериалах. Вообще, за всю свою актерскую жизнь Джеймс Коберн сыграл более, чем в сорока сериалах. Общее количество сыгранных Коберном ролей представляет собой головокружительную цифру – 180 работ.
В девяностых годах актер вернулся к активной работе в кино, снова приступив к работе и играя в вестернах и боевиках.
В 1999 году, уже семидесятилетний, Джеймс Коберн впервые становится обладателем премии «Оскар» в категории «лучшая мужская роль второго плана». Его успехом стала роль Глена Уайтхауса в триллере Пола Шредера «Скорбь» (Affliction). Примечательно, что до этого, столь почтенного возраста, он не получил ни одного «Оскара», и ни разу на него не номинировался.
Джеймс Коберн умер 18 ноября 2002 года, находясь в своем доме в Беверли Хиллз, от сердечного приступа.