音乐研究所前身是1949年11月成立的中央音乐学院研究部,缪天瑞、李元庆先后任主任。1954年3月改为中央音乐学院民族音乐研究所,所长杨荫浏、李元庆。1959年改称中国音乐研究所,直属文化部艺术局。1961年再次归属中央音乐学院,改称中央音乐学院中国音乐研究所。1964年中国音乐学院成立,研究所划归该院。1973年并入文化部艺术研究机构即后来的中国艺术研究院。1980年中国艺术研究院成立时改称中国艺术研究院音乐研究所,领导班子有副所长杨光、周加洛、何芸、李全民、郭乃安。1985年,黄翔鹏任所长,乔建中、王宁一任副所长。1988年,乔建中任所长,王宁一、田青、薛艺兵、王子初、韩宝强先后任副所长。2003年,领导班子调整为:张振涛、萧梅、国欣。现任所长张振涛。音乐研究所的音乐学专业是国务院学位委员会授予的第一批博士学科点,多年来培养了大批音乐学硕士、博士。
自1954年建所以来,共完成400余部专著、曲谱、辞书、图录、资料汇编等成果,包括《中国古代音乐史稿》、《民族音乐概论》、《阿炳曲集》、《聂耳全集》、《冼星海全集》、《弦索十三套》、《中国音乐辞典》、《简明音乐百科词典》、《中国音乐音响目录》、《琴曲集成》、《中国音乐文物大系》等,还采集了包括阿炳演奏的二胡曲《二泉映月》、管平湖演奏的古琴《流水》等在内的7000小时的音响资料,现大部分已成绝响,成为珍贵的文化遗产,同时收集各民族乐器近2000件,商周编钟、汉代錞于、魏晋铜鼓、唐宋元明清的古琴,许多都是国家级文物。由音乐研究所主办的学术期刊《中国音乐学》,被评为音乐界核心期刊第一名;《中国音乐年鉴》已出版17卷,受到学术界瞩目。
研究所现有在职人员18人,其中正高称职8人,副高2人,中级5人。研究生导师9人。