Istoria clădirii este neobișnuită. Situat în inima Parisului, de-a lungul Senei, vizavi de Grădinile Tuileries, muzeul este găzduit în fosta gară Orsay, o clădire construită pentru Expoziția Universală din 1900. Într-un fel, clădirea este prima "operă" din colecțiile Muzeului d'Orsay, prezentând arta celor câteva decenii dintre 1848 și 1914.