Pendant le pontificat de Pie VI, dans les années 1690, une première galerie de tableaux vit le jour à l'intérieur des Palais du Vatican, dans ce qui est actuellement la Galerie des Tapisseries. Ces trois grands salons accueillirent plus de cent tableaux illustrant l'art à partir du XVIe siècle. Certains provenaient des autels de la basilique Saint-Pierre, où ils avaient été remplacés par des copies en mosaïques. A la fin du siècle, avec l'occupation française, nombre d'œuvres quittèrent la pinacothèque pour être emportées à Paris, et seules quelques-unes revinrent à Rome après la chute de Napoléon grâce aux efforts des commissaires pontificaux, parmi lesquels se trouvait le célèbre sculpteur Antonio Canova.
Ainsi, en 1817 le pape Pie VII fonda une nouvelle pinacothèque dans l'Appartement Borgia, qui fut ouvert au public. C'est alors que furent acquises de nouvelles œuvres comme la Madone Sixtine et la Transfiguration de Raphaël. Au cours de la première moitié du XIXe siècle la pinacothèque changea plusieurs fois d'emplacement, jusqu'à ce que vers la fin du siècle elle trouva place au rez-de-chaussée du Palais apostolique, où le public peut désormais l'admirer dans de meilleures conditions climatiques et de lumière. Depuis, la collection s'est développée avec l'arrivée d'un groupe d'œuvres de peintres primitifs, et a fait l'objet d'un réaménagement
chronologique et par écoles.
Pendant un certain temps, la pinacothèque accueillit une collection particulière, qui complétait le parcours chronologique de l'art religieux jusqu'à nos jours. Grâce à la générosité de certains artistes, dont Pirandello, Bacon, Siqueiros, Chagall et à l'initiative prise pendant le pontificat de Jean XXIII, la première partie de la Galerie d'Art moderne religieux vit le jour en 1960 ; en 1973 elle fit l'objet d'un aménagement autonome dans les salles de l'appartement pontifical au premier étage, c'est-à-dire l'Appartement Borgia, dans celles du rez-de-chaussée et à l'entresol sous la chapelle Sixtine.