Родился в Берлине в семье фабриканта оптических приборов.
Со времени появления первых проекционных аппаратов молодой Месстер заинтересовался кинематографом. Кинокамера, сконструированная по его поручению в 1896 году, была одним из первых аппаратов, имевших "мальтийский крест". Месстер долгое время оставался конструктором и продавцом киноаппаратуры: киносъемочных и проекционных аппаратов, перфораторов, проявляющих и печатающих установок и т. п.
В ноябре 1896 года Месстер открыл на Фридрихштрассе, № 94а, маленькую киностудию, или, точнее, фотоателье, где снимал фильмы при электрическом освещении. Оборудование было переносным, и в начале 1897 года Месстер снял при искусственном свете бал прессы.
С конца 1896 года он стал сценаристом, режиссером и оператором небольших снятых на натуре фильмов типа картин Люмьера: детские сцены, семейные портреты и т. п. Немного позже он попытался снять несколько исторических фильмов с участием актеров варьете: «Наполеон III после битвы при Седане отдает свою шпагу Бисмарку», «Фридрих Великий играет на флейте», «Табачная коллегия» с участием актера Амона.
После 1902 года он приступил к более сложным постановкам; такова «Саломея» длиной 20 метров в стиле «Страстей» Патэ. Вместе с тем выпускаемая им хроника стала приобретать некоторое значение.
В 1903 году Оскар Месстер в кинотеатре "Аполлон" впервые в Германии демонстрирует звуковое кино на аппарате собственной разработки, синхронизирующем изображение проектора и граммофонную запись, и названного биофоном. Пик популярности таких лент пришелся на 1907-08 годы, когда до 90% продукции кинокомпании Месстера составляли звуковые картины.
Благодаря своей работе в области «звукового» кино Месстеру удалось около 1908 года открыть очень молодую актрису с большим будущим — Хенни Портен.
После 1905 года производство Месстера развивалось под руководством Карла Фрейлиха — оператора и режиссера. В 1907 году его фильмы по длине превышали 100 метров, а иногда достигали и целой катушки. Вскоре он стал выпускать до 45 фильмов в год.
С началом первой мировой войны Месстер в звании лейтенанта мобилизуется в в армию, где занимается организацией военной цензуры, налаживанием съемок документальных, хроникальных и пропагандистских фильмов.
После войны Месстер продает свою киноимперию за 5.3 миллиона золотых марок только что созданной УФА, и уходит из кино.
Der Stapellauf des größten Handelsdampfers Auguste Viktoria auf der Werft des Vulkan am 29.8.1905
Feierlicher Einzug der Braut unseres Kronprinzen in Berlin am 3.6.1905. II. Teil
Kronprinz mit seiner Braut gelegentlich des Empfanges des Kaiserpaares in Schwerin am 11.9.04
Живые скульптуры. Киноматериалы для скульпторов
Das Leben und Treiben vor dem schwedischen Pavillon auf der Ausstellung in Paris
Похороны президента французской республики Феликса Фора