Музей розпочав свою діяльність археологічною виставкою у 1899 році як Музей старожитностей та мистецтв у недобудованому приміщенні по вул. Олександрівській (вул. Грушевського, 6). Будівлю для музею спроектував видатний київський архітектор Владислав Городецький, а кошти на її спорудження зібрали кияни. Найпершим у музеї був сформований археологічний відділ, який очолив знаний український археолог Вікентій Хвойка.