Até 1935 a história do Museu é feita de hesitações e mudanças constantes quase sempre relacionadas com a inexistência de um local próprio para a sua instalação. Para a primeira experiência expositiva foi escolhido o Convento do Carmo, local onde a Câmara ia recolhendo elementos da cidade. Este embrião do então designado “Museu de Lisboa”, foi votado ao esquecimento e teve como consequência o seu desaparecimento, com perda de espólios. O Palácio Galveias, a Casa dos Bicos foram outros dos locais sugeridos. Mas em 1930, a Autarquia adquiria o Palácio da Mitra e logo se propôs a sua readaptação para o “Museu da Cidade de Lisboa”, ainda que a “título provisório”.

Foi o historiador de arte Mário Tavares Chicó, o responsável pelo planeamento, programa e montagem do museu que abria as portas no dia 25 de Abril de 1942 e viria a encerrar cerca de 30 anos depois, em 1973.