В 1958 году окончил театральное училище им. Щепкина и стал актёром театра им. Моссовета. В 1962-80 - в Московском Театре миниатюр. С 1972 года - главный режиссёр.
Благодаря этому театру Рудин оказался и на телевидении в «Кабачке 13 стульев». Образ пана Гималайского, глупого и самоуверенного типа, закрепился за Рудиным на всю жизнь. По этой причине, несмотря на множество ролей в театре и кино, режиссёры больше ничего значительного ему предложить не смогли.
Дочь Татьяна пошла по стопам отца и стала актрисой.
Рудольф Григорьевич ушел из жизни 17 декабря 2012 года.