这是1882年，由解散了的毕尔瑟管弦乐团的大约50名团员作为中心，加上部分业余人士组成的。1884年由克林特沃特担任首席指挥，1887年后由彪罗就任常任指挥，为这个乐团打下牢固的基础，表现出充实的演奏内容 从1895年起，改由尼基什接任常任指挥，前后达27年之久，他把这个乐团训练成全世界首屈一指的乐团。尼基什去世后，除了大战中某些时间外，都由富特文格勒担任指挥，直到1954年,这段期间乐团声誉更隆。

1955年后，由卡拉扬接任终身常任指挥。进入卡拉扬时代后，演奏会活动和唱片录音更为积极。甚至扩大范围，在萨尔斯堡复活节音乐会上参与歌剧公演的活动。不论名与实，都成为世界各交响乐团之冠，备受赞扬。卡拉扬之后，由阿巴度接任至今，2002年他任职期满后，将由以演奏现代曲目独树一帜的英国指挥家西蒙·拉图接棒。另外，名作曲家柴科夫斯基、勃拉姆斯、格里格、理查·施特劳斯与指挥家克勒姆佩雷尔、克莱伯、伯姆、肯培、库贝利克、布莱兹、海汀克、小泽征尔等曾客席指挥过该团。

乐团总员120人左右，演奏员均为男性。团内还成立了数个演奏团体，其中有三个弦乐四重奏组、一个爱乐五重奏组、一个爱乐八重奏组和一个爱乐十二大提琴家演奏组等。乐团经费大部分来自票房收入、电视转播收入、广播收入以及录音收入，每年举办一百场左右的音乐会，同时也常到外地旅行演出。该团从1963年起形成了在每个演季用五个晚上演奏二十世纪音乐的传统，这对推广现代作曲家的作品起了很大作用，许多新作都曾在此举行世界首演。乐团自1913年首次录制唱片后，至今已录制了数量惊人的唱片音乐，是录音最多的乐团之一。

该团演出实力极为雄厚，如果说维也纳爱乐乐团的传统风格胜于一切，那么柏林爱乐乐团则更机动灵活，使任何指挥都得心应手。乐团演奏曲目广泛，演奏德国作品时更是如鱼得水，首屈一指。在使用管乐器和打击乐器方面，能发挥出这些乐器的新的表现性能。卡拉扬时期是该团登峰造极时期。