Pierre de Coubertin Párizsban született. Régi nemesi családból származott, ezért hatalmas botrányt kavart, amikor úgy döntött, hogy tudós lesz, és nem katonaként vagy politikusként szolgálja hazáját. A Sorbonne-on művészetet, filológiát és jogtudományt tanult, de a fiatalok nevelésének ügye izgatta leginkább. Amerikában és Kanadában tett tanulmányútjain arra a következtetésre jutott, hogy a szellem nevelése mellett a test építésére is figyelmet kell fordítani.

A test, a lélek és a szellem egységét hangoztatva 1880-ban megalapította a Nemzeti Liga a Testnevelésért elnevezésű szervezetet, 1888-ban pedig sportpropaganda bizottságot hozott létre. Ő maga legjobban a rögbiért rajongott, így nem csoda, hogy 1892-ben, az első francia bajnoki döntőn, a Racing Club de France és a Stade Francais összecsapásán ő fújta a sípot.

Az 1880-as években az ókori görög olimpiákkal kapcsolatos régészeti feltárások hatására elhatározta, hogy újjáéleszti az olimpiai játékokat, a kezdeményezéssel hazájának is dicsőséget akart szerezni. 1892. november 25-én felhívást adott közre Párizsban az ókori olimpiai játékok feltámasztása érdekében: "Hadd küldjünk evezősöket, futókat, vívókat külföldre! Ez a jövő szabad kereskedelme! S amely napon ez a vén Európa hagyományává lesz, a béke ügye új, hatalmas támogatóra lel! ... Németország kiásta azt, ami még maradt a régi Olümpiából. A régi dicsőséget vajon miért ne állíthatná vissza Franciaország?"

A mozgalom szempontjából sorsdöntőnek bizonyuló tanácskozásra 1894. június 23-án került sor a párizsi Sorbonne-on: a világ minden tájáról érkező küldöttek Coubertin és a görög Demetriosz Vikelasz meggyőző érvelése nyomán megalapították a Nemzetközi Olimpiai Bizottságot, amelynek Vikelasz lett az elnöke, Coubertin pedig a főtitkára. (A tanácskozáson Magyarországot Kemény Ferenc - oktatásüggyel, testneveléssel és tankönyvírással foglalkozó szakember, később a magyar olimpiai mozgalom vezetője - képviselte.)

A frissen megalakult NOB 1896-ra Athénba tűzte ki az első újkori olimpiát, bár a francia báró inkább 1900-at és Párizst javasolta, mondván, hogy a világkiállítás részeként jóval szélesebb nyilvánosságot kapna az esemény.

Nagy feladat volt számára az olimpia görögországi megrendezése, a kezdeti anyagi nehézségeken egy Egyiptomban élő görög milliomos nagylelkű segítségével lettek úrrá. Végül 13 ország 295 sportolója állhatott rajthoz a kilenc sportág (atlétika, torna, birkózás, vívás, kerékpározás, lövészet, úszás, tenisz, súlyemelés) 43 versenyszámában. A sportesemény akkora sikert aratott, hogy a büszke görögök többé ki sem akarták engedni kezükből a rendezés jogát, amit viszont Coubertin nem fogadott el. Az olimpia után Vikelasz lemondott elnöki tisztéről, helyét Coubertin foglalta el.

Az 1900-as és 1904-es játékokat (Párizsban, illetve St. Louisban) elhomályosította a világkiállítás, a frissen életre hívott mozgalomnak fenyegető érdektelenséggel kellett szembesülnie. 1906-ban újabb játékokat szervezett Athénba, de ez nem számít a hivatalos nyári játékok közé. 1908-ban Londonban találkozhattak ismét a sportolók, a nagy közönségsikert azonban az 1912-es stockholmi olimpia, azon belül is az öttusa megjelenése aratta. A svéd fővárosban jelent meg először a művészeti verseny is a báró ötlete nyomán: elképzelése szerint öt kategóriában - irodalomban, építészetben, szobrászatban, festészetben és zenében - lehetett versenyezni sport témájú művekkel. G. Hohrod-M. Eschbach álnéven maga a báró is nevezett, és az Óda a sporthoz című verse első díjat nyert. Ám sokan nem hitték el, hogy nem fedte fel kilétét, ezért veszített tekintélyéből. (A művészeti olimpiák hét ötkarikás játékot éltek meg, majd 1948-ban Londonban csendesen kimúltak.)

A szintén Coubertin ötletére született, az öt földrészt jelképező ötkarikás zászlót 1920-ban Antwerpenben használták először.

A második párizsi olimpiát (1924) még főnökként vezényelte le, aztán lemondott a NOB elnöki tisztéről, majd pedagógiai világszövetséget alapított az unalmas hétköznapok elkerülésére. A béke és a nemzetek közötti összefogás szellemiségét hirdető báró Henri de Baillet-Latournak adta át az elnöki stafétabotot, de haláláig a testület tiszteletbeli elnöke maradt.
Élete utolsó éveiben nehéz körülmények között élt, ezért az 1936-os olimpia rendezési jogát elnyerő Berlin és Németország nevében Adolf Hitler 10 ezer birodalmi márka életjáradék folyósítását rendelte el számára.

Az eszményekből valóságot építő Coubertin 1937. szeptember 2-án halt meg Genfben. Lausanne-ban temették el, de szívét Görögországban, Olympia romjainál helyezték végső nyugalomra. Nevét őrzi a Pierre de Coubertin-díj, amelyet minden esztendőben az év legsportszerűbb cselekedeteiért ítél oda a sportolóknak a Nemzetközi Fair Play Bizottság.