Родился в семье учителя, учился во Франции в техническом училище (в г. Нанси) и на историко-филологическом факультете Парижского университета. В 1906, вернувшись в Россию, продолжил образование в Петербургском университете (на том же факультете).
Одновременно занимался в Петербургском театральном училище у В. Н. Давыдова. В 1908 года в летней гастрольной труппе Давыдова 3убов начал профессиональную сценическую деятельность (первая роль — Алеша «Дети Ванюшина» С.Найденова). Затем занимался в Школе сценического искусства А. А. Санина и А. П. Петровского. В 1910- 1915 г.г. (кроме сезона 1913-1914 г.г., когда 3убов служил в Самаре) работал в антрепризе Н. Н. Синельникова в Харькове и Киеве.
В 1915 году артист был приглашен в Московский театр Корша. В 1917-1918 г.г. возглавлял товарищество актеров Иркутского драматического театра, где впервые выступил как режиссер («Вишневый сад», «Мещане», «На дне»). В 1921-1924 г.г.работал в Первом Дальневосточном военно-революционном театре; роли: Гамлет, Арбенин, Кречинский.
В 1925-1931 г.г. — актер, режиссер и заведующий труппой Московского театра Революции; создал здесь остро сатирические образы Корзинкина, Семена Рака («Конец Криворыльска» и «Воздушный пирог» Ромашова), министра Кальмана («Гоп-ля, мы живем!» Толлера). В 1932-1938 г.г. — художественный руководитель Театра им. Ленсовета в Москве; постановки: «Разгром» по Фадееву, «Платон Кречет» (исполнил главную роль), сыграл роль Кинолы («Гавань бурь» по Бальзаку).
С 1936 года — актер и режиссер, а с 1947 года— главный режиссер Малого театра. Искуству 3убова свойственны интеллектуальная острота, тонкая ирония, изящество. Блистательный мастер диалога, 3убов за внешним лоском, воспитанностью людей прошлого раскрывал их социальную и классовую сущность (роль Цыганова в «Варварах», 1941).
Среди лучших ролей 3убова также — Хиггинс («Пигмалион» Шоу), Стессель («Порт-Артур» Степанова и Попова), Фамусов, Репетилов («Горе от ума»), Расстегин («На берегу Невы» Тренева), Телятев («Бешеные деньги»), Городулин («На всякого мудреца довольно простоты» Островского) и другие.
Режиссерские работы 3убова, стремившегося к точным, конкретным средствам театральной выразительности, выявлявшего идею пьесы прежде всего через искусство актера, отмечены четкостью, ясностью мысли.
С 1920 года занимался педагогической деятельностью, с 1946 года профессор Театрального училища им. М. С. Щепкина. Награжден орденом Ленина, орденом Трудового Красного Знамени и медалями.
Зубов Константин Александрович ушел из жизни — 22 ноября 1956 года в Москве.