De geschiedenis van het gebouw is ongewoon. Het museum ligt in het hart van Parijs, langs de Seine, tegenover de Tuilerieën. Het is gehuisvest in het voormalige station Orsay, een gebouw dat werd gebouwd voor de wereldtentoonstelling van 1900. In zekere zin is het gebouw het eerste "werk" in de collecties van het Musée d'Orsay, dat de kunst van de paar decennia tussen 1848 en 1914 presenteert.