카라얀은 그때까지 이류 오케스트라였던 The Philharmonia를 일류 오케스트라로 만드는데 성공했으며 1954년에는 베를린 필하모니아의 지휘자로 자리를 옮기고 1989년까지 무려 35년간 베를린 필하모니에 군림하였다. 이미 1948년 지휘금지령이 해제된 후 그는 비엔나 심포니의 지휘자로(1948-1960) 활약하고 있었다.

1956년부터 1964년까지는 비엔나 국립오페라의 지휘자가 되면서 그는 베를린과 비엔나의 음악세계를 독재자처럼 지배할 수 있었다. 뿐만 아니라 그는 1969년부터 71년까지 파리의 오케스트라(Orchestre de Paris)까지 지휘하였으며 일찍부터 잘츠버그 음악축제를 주관하기 시작하였으며 측근들을 이사회에 영입시킴으로써 거의 평생 잘츠버그 축제에 영향력을 발휘할 수 있었다(나는 1964년 8월에 유럽여행 도중 카라얀이 잘츠버그에서 베를린 필과 베토벤심포니를 지휘하는 모습을 볼 수 있었는데 이것은 나의 일생에 가장 인상 깊은 콘서트였다.

또 하나의 추억에 남는 콘서트는 1955년 학창시절 미국의 NBC 중앙청 광장에서 야외콘서트를 했을 때이다.

나는 그들이 하얀 턱시도를 입고 연주하는 모습을 보고 깊은 감동을 받았으며 영원한 클래식음악의 팬이 된 것 같다.).

그리하여 그는 그의 가장 강력한 경쟁자인 번스타인과 솔티는 베를린 필과 잘츠버그 축제에 나타날 기회가 거의 없었다.   

잡음이 나고 잘 깨지는 LP에 실증이 난 음악애호가들에게 영원히 변하지 않는 디지털음악의 탄생은 새로운 전기를 마련하였다. 디지털녹음의 발명자는 필립사이다.  

그러나 그들의 치밀하고 보수적인 개발이 늦어지자 약빠른 소니사의 모리타 회장은 카라얀과 손을 잡고 CD녹음을 빠른 속도로 발전시켰으며, 최초의 CD는 60분으로 제한되어있었으나 마러 심포니9번을 녹음하기 위하여 카라얀이 79분짜리 CD를 만들게 한 것이다.

카라얀은 제트비행기를 스스로 조종할 만큼 테크놀로지에 관심이 있었으며 그의 스위스별장은 최신형 음향장치로 무장된 요새였다.  

디지털시대가 오면서 카라얀에게는 콘서트보다는 비디오와 CD를 만드는 것이 더 중요하게 되었으며 더 큰 수입원이 된 것이다.

카라얀은 베를린 심포니를 미국과 일본을 포함해 전 세계에 이끌고 다니면서 팬들을 만들었고 그들은 카라얀의 CD들을 불티나게 사들였다.

많은 사람들은 거금을 내고 기침소리와 완벽하지 못한 콘서트를 듣는 것 보다는 관중의 방해 없이 완벽하게 만들어진 CD를 집과 자동차 안에서 듣는 것을 선호하게 된 것이다.