Apai ágon német zsidó, anyai ágon katolikus ír, zeneszerető családban született a Missouri állambeli St. Louis-ban, ahol apjáé volt a legnagyobb lemezbolt. A bloomingtoni Indiana Egyetemen megkezdett klasszikus zongora és zeneszerzés tanulmányairól nyergelt át a dráma szakra, sőt egy színjátszó kört is létrehozott. 1970-ben ösztöndíjat nyert a legendás New York-i Juilliard School újonnan alakult drámatagozatára, tanulmányai befejeztével társaival színi társulatot alapított, amellyel bejárták Amerikát, elsősorban Shakespeare- és más klasszikus darabokkal léptek fel. A Broadwayn 1973-ban Csehov Három nővérében debütált Versinyinként, s egy évtized alatt kétszer (1978, 1981) is elnyerte a színházi Oscarnak nevezett Tony-díjat musicalkategóriában, a harmadikat idén egy Noel Coward-darab meglehetősen furcsa viselkedésű színészének megformálásáért vehette át.

A nyolcvanas években a New York-i Shakespeare-fesztiválon olyan klasszikus drámákban lépett színpadra, mint a III. Richárd, a Sok hűhó semmiért, az V. Henrik, a Hamlet, s ez utóbbit meg is rendezte. A Broadwayn eljátszotta Lear királyt, Cyranót és Falstaffot a IV. Henrikben, a kritika az "amerikai Laurence Olivier-ként" méltatta. 2001-ben Meryl Streep partnere volt Csehov Sirályában, a háromszoros Oscar-díjas színésznővel 2012-ben Rómeó és Júlia történetét keltették életre egy különleges felolvasó előadáson a New York-i Central Parkban. A szélesebb nyilvánosság 1976-ban egy tévés szappanoperában ismerte meg. Egy évvel később kezdődött filmes pályafutása, amikor Alan J. Pakula neki adta Nathan szerepét a Sophie választása című filmdrámában, s rögtön Golden Globe- és Bafta-díjra nevezték. Lawrence Kasdan rendezésében több műfajban is kipróbálhatta magát (A nagy borzongás, Silverado, Grand Canyon, Szeretlek holtodiglan, Francia csók).

Az igazi filmes elismerést A hal neve: Wanda című krimi-vígjáték hozta meg számára 1988-ban. Alakításáért megkapta a legjobb férfi mellékszereplőnek járó Oscar-díját, s azon kevesek egyike lett, aki a legrangosabb filmdíjat vígjátékban nyerte el. (A film szinte teljes szereplőgárdája tíz évvel később újra összegyűlt a Fészkes fenevadak című vígjátékra, de ez már korántsem bizonyult olyan sikernek.) Kline kétszer is játszott amerikai elnököt: előbb a Dave című vígjátékban (1993), majd a Vadiúj vadnyugatban. Utóbbi nem életművének csúcsa: 2000-ben ő és Will Smith bizonyult a legrosszabb színészpárosnak, ráadásként a rendező, a forgatókönyvíró, a filmzene és a film maga is megkapta a legpocsékabb produkciónak járó Arany Málna díjat.

A Kiálts szabadságért! című politikai drámában Steven Biko dél-afrikai polgárjogi harcos, a Chaplinben Douglas Faibanks, a De-lovely című filmben Cole Porter megszemélyesítője volt, a Steve Martin-féle Rózsaszín párducban a leghálátlanabb szerepet, a felügyelő főnökét kapta. Játszott a Szentivánéji álom (1999) és az Ahogy tetszik (2008) modern változatában, utóbbit Kenneth Branagh rendezte, s alakításáért átvehette az amerikai film- és televíziós színészek céhének (SAG) díját. Az Oscar-díjas színész számos szerepet utasított vissza különböző megfontolásokból, s ezek között olyan kasszasikerek is voltak, mint a Batman és A cápa, ezért ragadt rá a "Decline" gúnynév. Mégsem mondhatni, hogy szerencsés kézzel válogatna, a közvélekedés szerint színészi teljesítménye általában jobb, mint a film, amelyben játszik. Számos kitüntetése mellett övé a 2272. csillag a hollywoodi hírességek sétányán, szülővárosában róla nevezték el egykori iskolája színházát, és színházi díjat is alapítottak, amelyet húsz kategóriában ítélnek oda. 2002-ben első amerikaiként vehette át a legendás angol színész nevét viselő Gielgud-díjat, a következő évben beiktatták az amerikai színház halhatatlanjai közé. Filmes pályafutásának több magyar vonatkozása is van, 2001-ben Az élet háza című filmjében Zsigmond Vilmos, a következő évben a Császárok klubjában Koltai Lajos volt az operatőr.

2012-ben ismét Kasdan állt a kamera mögött az Egy drága társ munkálatai alatt, amely a rendező két korábbi filmjével (A nagy borzongás, Grand Canyon) generációs kérdéseket tárgyaló trilógiát alkot. Emlékezetes volt a parádés szereposztású, négy idős barátról szóló Last Vegas című komédiában, a Dübörög a szívben (Ricki and The Flash) a rocksztár Meryl Streep megbocsátani kész volt férjét alakította, és szerepet vállalt a Disney-klasszikus, A szépség és a szörnyeteg legújabb, idei feldolgozásában is. A színészt soha nem zavarta 188 centiméteres magassága, már pályafutása elején azt mondta, hogy a többiek majd felágaskodnak, ha akarnak tőle valamit. Házassága előtt több filmes partnerével is hírbe hozták, de amióta 1989-ben feleségül vette Phoebe Cates színésznőt (a Szörnyecskék egykori szereplőjét), botrányok nélkül élnek, és gondosan óvja magánéletét a nyilvánosságtól. A házaspár 2001-ben két gyermekével együtt szerepelt a Jóban-rosszban (The Anniversary Party) című filmdrámában.