Ce musée vit officiellement le jour en 1912, à une époque où commençait à se diffuser l'idée de l'art comme élément d'éducation sociale. En réalité, sa conception remonte à bien plus longtemps. Il doit son origine au Cabinet des Beaux-Arts qui au milieu du XIXe siècle comprenait une collection de sculptures et une bibliothèque d'histoire de l'art ancien à but essentiellement didactique.
L'intelligentsia russe avait donné des sommes considérables pour la construction du nouveau musée, et la nationalisation de collections particulières permettait d'enrichir considérablement celui-ci. Entre 1923 et 1924, les collections d'art occidental de la Galerie Tretiakov et du Musée Roumantsiev passèrent au Musée Pouchkine. Certains tableaux de l'Ermitage furent également envoyés à Moscou, et l'on compléta systématiquement les collections avec des œuvres de Monet, de Matisse, de Cézanne, de Sisley, de Picasso et de nombreux autres artistes.
