В 1961 году Константин Желдин окончил Театральное училище им. Б.В. Щукина (курс В. Этуша).
В 1962-1963 годы он работал в Театре на Малой Бронной, а в 1966-2000 годы был актером Театра на Таганке.
С 2000 года Желдин - актер Театра "Около дома Станиславского".
В кино Константин Желдин дебютировал в 1960 году и сыграл более 70-ти ролей. Зрителям актер стал известен по роли Холтоффа в телесериале «Семнадцать мгновений весны», а в настоящее время активно снимается в сериалах.