Die damaligen Berliner Philharmoniker haben ihre ersten
Konzerte im Gartenlokal in
Charlottenburg namens „Flora“ gespielt. Schnell merkte man, dass die Kapazitäten nicht mehr ausreichende gegeben waren und so fand man als ersten richtigen festen Standort die Alte Philharmonie an der Bernburger Straße in
Kreuzberg. Jahre zuvor befand sich hier noch eine Rollschuhbahn und ab dem Jahr 1882 war sie die Spielstätte der ersten Wahl der Philharmoniker. Um mehr Platz zu bekommen wurde das Gebäude zu einem bestuhlten Konzertsaal umgebaut und die Tische mussten verschwinden. Aber auch das reichte in den darauffolgenden Jahren nicht aus und so wurde der Hinterhof mit Grundstück erweitert um einige Ausweichflächen zu haben. Der zweite Weltkrieg hat die alte Philharmonie mit einem Luftangriff zerstört und von einem Aufbau war erst mal ein paar Jahre nicht daran zu denken. Das Orchester spielte erstmal in Ausweichquartieren wie beispielsweise dem Titania-Palast weiter.
Eine Ausschreibung für einen Neubau der Berliner Philharmonie fand dann im Jahre 1956 statt und 14 Architekten wurden aufgefordert einen Entwurf zu erstellen und vor allem einen passenden Standort zu finden. Trotz guter Ideen dauerte es noch einmal rund 3 Jahre bis der Neubau errichtet werden sollte. Die Bauzeit betrug 36 Monate und wurde am 15.10.1963 feierlich eröffnet. Das Eröffnungskonzert war das Stück von Beethoven, Sinfonie Nr. 9. Scharoun plante eine goldfarbige Fassadenverkleidung, es wurde allerdings provisorisch erst einmal in Ockerfarben die Außenwand bemalt. Erst nachdem diese Feuchtigkeitsschäden erlitt, wurden nachträglich goldfarbene Aluminiumplatten um das Gebäude versehen. Im Jahre 1984-1987 wurde zur Berliner Philharmonie ein Kammermusiksaal gebaut, dessen Kosten sich auf rund 123 Millionen DM beliefen. Die beiden Gebäude wurden miteinander verbunden und wirken als Einheit. 1988 fiel von der Decke der Berliner Philharmonie ein ca. 1m2 großes Stück Putz, wodurch sich zum Glück niemand verletze. Hier wurde es dann Zeit, die Philharmonie für ein Jahr zu schließen und die Rabitzdecke in eine Betondecke zu verwandeln. 1992 wurde der Saal wiedereröffnet.
2008 eilte ein Unglück herbei. Hier wurden durch Schweißarbeiten am Metalldach ein Feuer ausgelöst, zum Glück konnte die Feuerwehr alle Menschen dort evakuieren und den Brand schnell löschen. Nach 2 Wochen Restaurierungen und Instandsetzungen wurde die Berliner Philharmonie am 2.06.2008 wieder komplett für Konzerte geöffnet.