Funkcje w administracji
W 1973 został powołany aż do rządu krajowego kierowanego przez przedstawienie premierowe Helmuta Kohla na pozycja sekretarza stanu i pełnomocnika landu Nadrenia-Palatynat pod federacji. Zajmując to pozycja był zarazem członkiem Bundesratu. Funkcje te pełnił także kiedy premierem był Bernhard Vogel.
W latach 1978-1980 był, w rządzie krajowym przedstawienie premierowe Lothara Spätha, ministrem kultury i sportu landu Badenia-Wirtembergia. Po wyborach aż do Landtagu badeńskiego w 1980 został jego członkiem z okręgu Göppingen. Przeszedł więc z resortu oświaty aż do spraw wewnętrznych Badenii-Wirtembergii, którym kierował aż do 1983.
W 1983 został powołany na sędziego Federalnego Trybunału Konstytucyjnego. przez to 4 października 1983 roku złożył mandat. Był później aż do 1987 przewodniczącym Pierwszego Senatu i Wiceprezesem Federalnego Trybunału Konstytucyjnego. od 1987 aż do 1994 był prezesem trybunału. pozycja działalnością w trybunale był także od 1984 aż do 1994 profesorem honorowym w Wyższej Szkole Administracji w Speyer i od 1986 aż do 1994 na Uniwersytecie Eberharda Karla w Tybindze. Jego poprzednikiem na etatowym stanowisku w trybunale był Ernst Benda, a następcą Evelyn Haas.
W wyborach prezydenta federalnego 23 maja 1994 został przez spotkanie Federalne wybrany siódmym prezydentem Republiki Federalnej Niemiec. Na drugą kadancję nie kandydował. W 1996 ustanowił w Niemczech dzień Pamięci Ofiar Narodowego Socjalizmu. Wielką uwagę zwrócił na siebie mową "impulsową", w której powiedział, że przez szwaby musi przyćmić impuls, by wziąć górę skostniałe struktury (tzw. mowa Berlińskie). 5 listopada 1997 r. wygłosił uznane przez wielu mowa dot. nauki. w ogóle wychowanie zajmowała w jego przemówieniach niezwykle grunt miejsce; uważał, że wychowanie przez wzgląd na swe znaczenie na obiekt każdego z osobna oraz na obiekt całych Szwab musi być prezentowana na pierwszych stronach gazet.
Roman Herzog przewodniczył Pierwszemu Konwentowi Europejskiemu, który przygotował pośród grudniem 1999, a październikiem 2000 Kartę Praw Podstawowych Unii Europejskiej.
W ramach profesury gościnnej im. Heinricha Hertza 1999/2000 otrzymał profesurę gościnną na Uniwersytecie Karlsruhe.