В 1954 году окончил режиссёрский факультет ВГИКа, мастерская С. А. Герасимова и Т. Ф. Макаровой.
Ордынский был первым мужем Людмилы Гурченко. В зарегистрированный брак с кинорежиссёром, продолжавшийся более года, актриса вступила в возрасте 18 лет, о чём свидетельствует её однокурсница по ВГИКу и близкая подруга, актриса Зинаида Кириенко. Брак продолжался более года. Ни Ордынский, ни Гурченко публично не рассказывали об этом браке.
В 1964 году кинорежиссёр женился на Марианне Рооз, редакторе «Мосфильма» (в этом браке родилась дочь Екатерина, сыгравшая эпизодическую роль в телесериале "Хождение по мукам").
Сыграл эпизодическую роль «политрука» в киносериале «Щит и меч».
Умер 4 ноября 1985 года. Похоронен в Москве на Кунцевском кладбище.