Malý palác, který byl otevřen 11. prosince 1902 jako muzeum pod názvem Palais des Beaux-Arts de la ville de Paris, byl původně postaven pro Světovou výstavu v roce 1900. Petit Palais se nachází v prestižním prostředí zahrad Champs-Élysées a je součástí monumentálního komplexu, který zahrnuje Grand Palais a most Alexandra III. Charles Girault jej navrhl podle lichoběžníkového půdorysu, který tvoří čtyři budovy uspořádané kolem půlkruhové vnitřní zahrady ohraničené peristylem.