Sejarah bangunan ini tidak biasa. Terletak di jantung kota Paris, di sepanjang Sungai Seine, di seberang Taman Tuileries, museum ini bertempat di bekas stasiun Orsay, sebuah bangunan yang dibangun untuk Pameran Universal 1900. Di satu sisi, bangunan ini merupakan "karya" pertama dalam koleksi Musée d'Orsay, yang menampilkan karya seni dari beberapa dekade antara tahun 1848 dan 1914.