O Museu da Acrópole foi fundado por um decreto de 1863, emitido por Kyriakos Pittakis. A construção, um projeto de Panagis Kalkou, iniciou um ano mais tarde, sob o Eforado de Panayiotis Eustratiades no local sugerido por Pittakis e T. Hansen, sobre a Acrópole de Atenas, onde antes existiu um santuário dedicado a Pandion. Nas escavações preparatórias já foram encontradas esculturas que hoje são expostas nas salas do museu.
O antigo prédio foi concluído em 1874, sendo o primeiro museu grego a ser instalado em um edifício construído especialmente para uso como museu. Tem externamente 800 m², distribuídos em oito salas de exposição, e foi concebido para permanecer pouco perceptível em meio ao conjunto arquitetônico da Acrópole, estando incrustado na rocha e adentrando o subsolo. Os trabalhos de instalação do acervo se prolongaram até 1888, mas com os constantes novos achados arqueológicos no local, novas alas forma acrescentadas já em 1888, e novamente após a I Guerra Mundial.
Entre 1946 e 1947 foram executadas novas obras, o pequeno edifício inicial foi demolido e as alas mais modernas foram expandidas para o sul, com a criação das salas da Gigantomaquia e da Alcova e novos depósitos. Todo o sistema de exposição foi reorganizado, sendo reinaugurado em dezembro de 1964. Em 1998 o museu foi outra vez remodelado, adicionando-se duas novas unidades temáticas e reorganizando-se os itens expostos.
Em junho de 2007 o museu foi fechado e sua coleção começou a ser transferida para novas instalações localizadas a cerca de 300 metros da Acrópole, devendo ser reaberto ao público em 2008. A nova sede possui cerca de 25 mil m² e foi projetada para resistir a terremotos. O custo da obra está orçado em 129 milhões de euros e foi necessária a demolição de diversas residências do local. As escavações para os alicerces revelaram vestígios de construções pavimentadas de mosaicos, que serão mantidos in situ para visitação.
A coleção do Museu da Acrópole, como seu nome sugere, consiste basicamente dos achados arqueológicos da própria Acrópole. O acervo começou a ser reunido com as escavações levadas a cabo no século XIX, que recolheram algumas esculturas clássicas e objetos votivos dedicados ao culto de Atena.
Desde então, com o prosseguimento das pesquisas, novos itens têm sido continuamente incorporados ao acervo. As peças, nas antigas instalações que ora estão em mudança para a nova sede, estavam organizadas em ordem cronológica em nove salas temáticas, um esquema estabelecido em 1960 por Yannis Miliadis e que vinha sendo mantido, com algumas adaptações para acomodar novas aquisições.
A partir de 1975 o programa de conservação dos monumentos da Acrópole (o Partenon, o templo de Atena Niké e o Erecteion) decidiu que as esculturas originais que ainda existiam nas ruínas começassem a ser transferidas para o museu, sendo substituídas por réplicas.
Em 1999 foi exposto o Cavaleiro arcaico e o friso do templo de Atena Niké, removido de seu local de origem. Recentemente novos itens foram acrescentados, como a cabeça de Artemis Brauronia e artefatos em terracota e miniaturas arcaicas.
Até 2006 nas Salas I, II e V estavam expostos pedimentos e outros elementos arquitetônicos do período arcaico, oriundos do primeiro Partenon estabelecido no local (o Hekatompedos) e de outros edifícios menores. As images que estes elementos mostram incluem uma apoteose de Hércules, leões e leoas, seres tricéfalos e cenas da Gigantomaquia.
Nas Salas II a VI se mostravam algumas das peças mais importantes da arte grega dos períodos arcaico e severo, como a série de cavaleiros e o grupo de korai e kouroi, e estátuas de Atena.
Salas V, VII, VIII e IX, com a decoração escultórica do Partenon, do Erecteion e do templo de Atena Niké, onde se incluem as famosas cariátides do Erecteion, além de cópias dos relevos e frisos levados para a Inglaterra por Lord Elgin.
No lobby e nas salas menores estavam os achados dos períodos clássico, helenístico e antigo tardio, com bustos, relevos e estatuária. Destaques destes espaços são a estátua de Procne (possivelmente obra de Alcamenes), a cabeça de Alexandre, o grande, e o afamado Relevo Lenormant, representando uma trirreme ateniense.
Está prevista a reformulação de todo o sistema expositivo quando terminar a transferência das obras para a nova sede.