Он вырос в Манхэттене, Нью-Йорк. Его мать была актрисой Кэй Джонсон, а его отец – актер, режиссер и продюсер Джон Кромуэлл, попавший в черный список во времена эры МакКарти. Джеймс получил образование в школе Хилл, колледже Миддлбери и в технологическом институте Карнеги (ныне университет Карнеги-Меллон), где он изучал инженерию. Как и оба его родителя, Кромвель был привлечен к театральной работе, от шекспировских пьес до самых экспериментальных постановок.
Его первый телевизионный перформанс состоялся в 1974-м – в эпизоде сериала «Досье детектива Рокфорда», где он сыграл Тэрри. Через несколько недель он получил периодически всплывающую роль, Стретча Каннингема, в сериале «Все в семье». В 1975-м он сорвал свою первую главную роль на телевидении – роль Билла Льюиса в недолго просуществовавшем ситкоме ABC «Hot L Baltimore». А через год дебютировал в кино – в классической детективной комедии «Убийство смертью» сценариста Нила Саймона.
В то время как он регулярно работал в телеиндустрии в оставшейся части 1980-х, американский актер проник в кинобизнес со своей ролью помощника шерифа Бейкера в фильме с участием Джеймса Гарнера и Ширли Джонса «Танк». Немаловажной стала и его роль мистера Сколника, отца главного героя, Льюиса, в комедийном фильме Роланда Месы «Месть полудурков». Он повторял эту роль еще три раза – в каждом из продолжений «Мести полудурков».
Кромуэлл дополнительно заполнился зрителям своим необычайно высоким ростом; он вырос до 2,01 м, таким образом, став самым высоким номинантом Киноакадемии.
Убеждения
Долгое время Кромуэлл был сторонником левых. В ходе октябрьского интервью 2008-го он неоднократно выступал с резкой критикой в адрес республиканской партии и администрации Буша, говоря, что их погоня за американской империей «или уничтожит нас или всю планету». В конце 1960-х он был членом «Комитета по защите пантер», организационной группы, защищавшей 13 членов партии Черных Пантер, которые попали в нью-йоркскую тюрьму по обвинению в заговоре. В конечном итоге, все 13 заключенных были отпущены. В интервью 2004-го для CNN.com Кромуэлл похвалил действия партии Пантер.
Актер в 1974-м году стал вегетарианцем, после наблюдений за скотным двором в Техасе, получив незабываемые впечатления от «запаха, террора и страха», царящих там. Он стал этическим строгим вегетарианцем, играя фермера Хоггетта в фильме «Бэйб» в 1995-м. Кромвель часто высказывается на тему жестокого обращения с животными для организации PETA, по большей части, что касается свиней.