Постоянная экспозиция Музея посвящена важнейшим страницам музыкальной и культурной жизни Москвы начиная с 1880-х годов. На стенах — фотографии музыкантов нескольких поколений: учителей, сверстников и учеников А. Б. Гольденвейзера, его друзей, близких и родственников. Большое внимание уделено педагогической деятельности Александра Борисовича, которой он отдал более 55 лет.

Огромную ценность представляют нотная библиотека и книжное собрание Гольденвейзера, его коллекция живописи, графики, уникальные нотные и литературные автографы, фотографии, собрание концертных программ.

В Музее много мемориальных предметов, которые не только отражают череду событий, дат и имён ХIX-ХХ вв., но и помогают ощутить неповторимую атмосферу того времени, почувствовать «присутствие» многих выдающихся деятелей культуры ушедшей эпохи. В числе экспонатов — мемориальные рояли фирмы «Бехштейн», которые помнят прикосновение рук А. Скрябина, С. Рахманинова, Н. Метнера; посмертная маска А. С. Пушкина; шахматы работы выдающегося русского актера Михаила Чехова.

Особое место в музее занимает коллекция предметов, связанных с именем Льва Николаевича Толстого. Александр Борисович сохранил ряд документов, большой фотоархив и мемориальные вещи писателя. Все это дало возможность создать в музее особую «толстовскую» экспозицию.