Déjà en 1153, un empereur des Jin fit construire à cet endroit un premier palais, appelé à l'époque "Jardin des eaux d'or", pour y villégiaturer en été.

Les grands changements s'y opérèrent sous le règne de l'empereur Qian Long des Qing.

Celui-ci ordonna les gigantesques travaux de construction pour le 60ème anniversaire de naissance de sa mère en 1751.

L'achèvement du parc formait avec les autres sites aménagés antérieurement un vaste ensemble de jardins impériaux, qui s'étendait sur 10 km2 et comprenait trois collines et cinq jardins: la Colline de la Fontaine de Jade (Yu Quan Shan), les Collines parfumées (Xiang Shan) et la Colline de la Longévité millénaire (Wan Shou Shan), ainsi que le Jardin du Printemps florissant (Chang Chun Yuan), le Jardin de la Perfection et de la Clarté (Yuan Ming Yuan), le Jardin de la Pure Clarté (Jing Ming Yuan) sur la Colline Yu Quan Shan, le Jardin de la Tranquillité agréable (Jing Yi Yuan) sur les Collines Xiang Shan et le Jardin des Vagues claires (Qing Yi Yuan) sur la Colline Wan Shou Shan, ancien nom du Palais d'été.

En 1860, l'Armée coalisée franco-anglaise envahit Beijing. Elle saccagea et brûla tous les jardins. Le Qing Yi Yuan subit le même sort. Il était en ruines jusqu'en 1885, lorsque l'impératrice douairière Ci Xi décida d'affecter à sa reconstruction les sommes préalablement affectées à la création d'une flotte moderne. Ci Xi donna au parc son nom actuel : le Jardin de la Concorde (Yi He Yuan.)

En 1900, l'Armée alliée des huit puissances investit Beijing. Le Palais d'été subit de nouvelles dépréciations et fut restauré partiellement en 1901 après le retour de Ci Xi à la capitale.

Le Jardin fut ouvert au public pour la première fois en 1924, lorsque le dernier empereur Pu Yi quitta Beijing. Mais peu de gens s'y rendirent et le jardin fut laissé à l'abandon.

C'est après 1949, date de la fondation de la république populaire que d'importants travaux de restauration y ont été ménés à bien.