Джордж Коул родился 22 апреля 1925 года в Тутинге, юго-западном районе Лондона. С 14 лет он начал играть в театре, дебютировав в пьесе «Гостиница «Белая Лошадь»». Важную роль в становлении его исполнительского мастерства сыграл актер Аластер Сим, ставший наставником и старшим товарищем юного Коула. Их дружба продлилась долгие годы, и впоследствии они не раз появлялись на экране в одной и той же картине. Его первым фильмом стал шпионский триллер Энтони Эскуита «Сдается коттедж» (1941).
Спустя несколько лет он снялся в небольшой роли мальчика в знаменитом «Генрихе V» Лоренса Оливье (1944), после чего был призван на службу в военно-воздушные силы. После демобилизации в 1947 году Коул продолжал играть на сцене и сниматься в кино.
Среди его лучших ранних ролей был одержимый изобретатель в одной из четырех новелл фильма «Квартет» (1948), поставленного четырьмя английскими режиссерами Кеном Эннакином, Артуром Крэбтри, Гарольдом Френчем и Ральфом Смартом по произведениям Соммерсета Моэма. Кривая усмешка Коула и его лондонский акцент истинного кокни как нельзя более подходили для исполнения легких, полукомедийных ролей. Он снялся во множестве комедий, в том числе «Смех в Раю» (1951), «Красавицы из Сент-Трайниана» (1953), которая имела два продолжения в 1956 и в 1958 годах, и «Отель `Зеленый человек`» (1956).
Тем не менее, в актерской карьере Коула были и куда более серьезные картины, и как следствие - более серьезные актерские работы, как, например сержант Роджер Моррис в криминальной драме «Награда - золото» (1955) или охваченный страхом отец девочки, которая волей случая стала заложницей сумасшедшего маньяка в психологическом триллере «Страх» (1971). Он также сыграл Флавия в историческом эпосе «Клеопатра» режиссера Джозефа Лео Манкевича (1963) и пса в совместной американо-советской картине «Синяя птица» Джорджа Кьюкора, снятой по сказке Мориса Метерлинка (1976).
С конца семидесятых актер много работал на телевидении, снимаясь в различных сериалах. Из них наибольшей популярностью пользовался, шедший с 1979 по 1984 и с 1988 по 1994 год, комедийный сериал «Подручный», в котором он играл главную роль - мелкого афериста и торговца подержанными машинами Артура Дэйли.
Был дважды женат на актрисах - его первой супругой была Эйлин Мур, второй - Пенни Моррелл. В 2013 году Джордж Коул написал автобиографическую книгу «The World Was My Lobster».