1959年，为举办第一届上海之春音乐会，要物色一个专供音乐演出的剧场，而且，建国以来，上海交响乐团、广播乐团、民族乐团以及歌舞剧院相继成立，也迫切需要一个专业的演出场所，北京电影院以其特殊的建筑结构所产生的优良的自然音响效果被选中，正式改为上海音乐厅。

上海音乐厅建筑属上海少有的欧洲传统风格。走进休息大厅，映入眼帘的是十六根合抱的赫色大理石圆柱，气度不凡。观众厅的构图明确规范，复杂而不零乱，变化而又富有层次，色彩淡雅庄重，与其演绎的古典音乐有着惊人的统一。其自然音响之佳，既得到建筑学专家的首肯，更为众多中外艺术家的认同。著名小提琴家斯特恩、阿卡多、祖克尔曼；钢琴家拉萝查、傅聪、殷承宗以及美国费城乐团室内乐团、朱丽亚弦乐四重奏组、中国交响乐团等均在此留下了优美的音乐旋律。

上海音乐厅共有观众席1，273座（包括站位），其中楼下751座，楼上522座。镜框式舞台深8.35米，宽16米，音乐会可使用面积约100平方米；舞台上方有可调控反响板，备有斯坦威D-274三角钢琴一架编号474380，60路调光台。其中面光46路，顶光4路，内侧光10路，24路雅马哈调音音响一套。台口话筒插座16只。

为保留这幢优秀建筑，音乐厅于2002年9月1日起，从原址向东南方向平移66.46米、整个建筑抬高了3.38米，并修缮一新。2004年10月1日，平移后上海音乐厅第一次开幕迎客，英国皇家爱乐乐团作首场庆典演出。