1943-ban született Klaus Georg Steng néven az ausztriai Bad Ausseeben, Georg Steng német vámtiszt és osztrák felesége, Maria Brandauer egyetlen gyermekeként. Hadifogságból hazatérő apját csak hatéves korában ismerte meg. Az érettségi után két félévet a stuttgarti zene- és ábrázoló művészeti főiskolán tanult, és alig volt húszéves, amikor a tübingeni színházban debütált, művésznevének anyja családi nevét választotta. 1964-től Salzburgban, Düsseldorfban, majd a bécsi Theater in der Josefstadtban játszott, rendszeresen fellépett a Salzburgi Ünnepi Játékokon. 1972-ben lett a bécsi Burgtheater társulatának tagja.

Szerepválasztásaiban ügyesen próbált egyensúlyt teremteni a klasszikus és a kortárs szerzők darabjai között, és hamarosan a német nyelvterület kiemelkedő színművésze lett. Legnagyobb sikereit a Tartuffe-ben, a Hamlet címszerepében és a Nem félünk a farkastól című Albee-darabban aratta. Színházi rendezőként 1973-ban mutatkozott be a Theater in der Josefstadtban, Shakespeare Ahogy tetszik című művével. Bécsben a Volksoperban 1995-ben Lehár A mosoly országa című alkotását állította színpadra, majd egyik kedvenc darabját, a Hamletet rendezte a Burgtheaterben. Kezdetben nem szívesen vállalt filmszerepet, de két epizódszerep kedvéért, mégis beadta a derekát. Először 1972-ben A salzburgi kapcsolat című amerikai kémfilmben, majd 1979-ben Kovács András Októberi vasárnap című filmdrámájában jelent meg. 1975-ben a Derrick krimisorozatban is felbukkant.

A Mephisto címszerepében (fotó: B. Müller Magda)

Pályafutása fordulóponthoz ért, amikor Szabó István felajánlotta neki a Mephisto főszerepét. Az 1920-as, 1930-as évek Németországában játszódó, magyar-német-osztrák koprodukcióban készült film nemzetközi sikert aratott, és 1982-ben a legjobb idegen nyelvű film kategóriában Oscar-díjat nyert. A fausti kérdést boncolgató, a hatalom és egyén viszonyát, a kompromisszum és az erkölcsi önfeladás kérdését vizsgáló történetben Brandauer a tehetséges német színészt, Hendrik Höfgent alakította, aki a siker érdekében eladja lelkét, és egyéniségét feladva, környezetét elárulva behódol a náci hatalomnak. A Mephisto meghozta a nemzetközi áttörést a színész számára, és elindította hollywoodi karrierjét. 

1983-ban megkapta első angol nyelvű filmszerepét, a Soha ne mondd, hogy soha című James Bond-filmben ő játszotta a 007-es szuperügynök ellenfelét. A fogadtatás a nézők és a kritikusok körében is kedvező volt, a kritikusok arról cikkeztek, mennyire kliséktől mentesen formálta meg a gonosz Maximillian Largót, a James Bond szerepéhez tizenkét év után visszatérő Sean Connery pedig a világ öt legjobb színésze közé sorolta.

1984-ben Szabó István Klaus Maria Brandauert rendezi a Redl ezredes forgatásán (fotó: MTI Fotó/ Friedmann Endre)

1985-ben Sydney Pollack Távol Afrikától című romantikus drámájában szerepelt Maryl Streep és Robert Redford oldalán. Blixen báró megformálásáért 1985-ben Oscar-díjra jelölték, 1986-ban Golden Globe-díjat nyert. Ugyancsak 1985-ben alakította a Redl ezredes címszerepét, újra Szabó István rendezésében. 1988-ban, immár harmadszor dolgozott a magyar rendezővel a Hanussen című filmben, az úgynevezett „német trilógia” befejező darabjában, amelyben ismét remekelt, teljesítményéért Európai Filmdíjra jelölték. 1990-ben majdnem elnyerte A vadászat a Vörös Októberre című alkotás főszerepét, a rendező azonban az utolsó pillanatban mégis Sean Connery mellett döntött. Nem lett belőle harag, ők ketten, még ugyanebben az évben újra együtt játszottak az Oroszország ház című, John Le Carré kémregénye nyomán készült hidegháborús thrillerben. 1989-ben ruccant ki először a filmrendezés területére, amikor elkészítette a Hitler ellen 1939-ben elkövetett merényletről szóló Georg Elser című filmet, amelynek főszerepét is ő alakította. Még négy filmet rendezett, köztük Thomas Mann Mario és a varázsló című novelláját vitte filmre.

2000 és 2013 között számos tévéfilmben szerepelt, 2002-ben Edoardo Ponti kérte fel A női lélek fájdalmai című filmdráma egyik főszerepére. 2006-ban nagy port kavart Berlinben, amikor Bertolt Brech Koldusoperáját – amelyben maga is játszott – sajátosan modern felfogásban vitte színre, és a főszerepet (Bicska Maxi) a német Die Toten Hosen punkrock-együttes énekesére, Campinóra bízta. 2012-ben Wilhelm Reich osztrák-amerikai pszichiátert keltette életre a filmvásznon. Legutóbb egy tehetséges, fiatal zongorista és mestere kapcsolatáról szóló filmben (Maestro) vállalt szerepet. 

Klaus Maria Brandauer a II. Budapesti Klasszikus Film Maraton vendégeként 2018-ban (fotó: Déri Miklós)

Szabó István Klaus Maria Brandauer főszereplésével készült trilógiáját (Mephisto, Redl ezredes, Hanussen) – amely a 20. századi közép-európai történelem viharaiban megfelelni vágyó és nagyra törő karakterek viszonyát ábrázolja – a világ legrangosabb fesztiváljain díjazták. 30 év után legújabb filmje főszerepét ismét Klaus Maria Brandauerre bízta: a Zárójelentés című filmben egy orvost játszi, aki, miután váratlanul nyugdíjazzák, hazaköltözik a szülőfalujába, és körzeti orvosként kezd dolgozni.

A neves színész Bad Ausseeben, Bécsben, Berlinben és New Yorkban él, legalább öt nyelven beszél, angolul, franciául, olaszul, magyarul és németül. Mint színész-tanár 2011-ben hivatalosan nyugdíjba vonult, de továbbra is fenntartja kapcsolatát a bécsi színművészeti főiskolával, a Max Reinhardt Szemináriummal. Filmsikerei ellenére a színpadon érzi igazán otthon magát, 2013-ban visszatért a Burgtheaterbe, amelynek tiszteletbeli tagja, többek között a Lear király címszerepét formálta meg Peter Stein rendezésében. Ugyanebben évben kimagasló színészi teljesítményéért vehette át a Sztanyiszlavszkij-díjat.