Né en 1887 à Paris, Jean Patou s'installe à Paris en 1910 dans l'idée de lancer sa maison de couture. Après un premier échec, il  ouvre sa maison près de la place de la Concorde en 1914, au 7 rue Saint Florentin. 

Sa première collection lui permet de se démarquer, puisqu'elle est plutôt destinée à une clientèle féminine sportive, active et libérée, qui tranche avec les coupes plus classiques et conventionnelles de l'époque. Cette innovation lui vaut un accueil favorable de la critique, et le pose en une sorte de "précurseur" du "sportswear". 

Parallèlement à ses activités de couturier, il décide de lancer sa maison de parfums, bientôt rejoint par le nez Henri Alméras en 1923. Plusieurs créations verront le jour à cette période, telles que Amour-Amour, Que sais-je, Adieu Sagesse ou encore Moment Suprême. Mais le plus grand succès de la maison Patou reste Joy, un parfum assez osé dans le contexte suivant le krach boursier de 1929, puisqu'il s'agit d'une des compositions les plus coûteuses au monde à fabriquer. En effet, fortement dosé en rose et jasmin, Joy nécessite à l'époque 10 000 flerus de jasmin de Grasse et et 28 douzaines de roses pour produire 3 cl de parfum.  Le slogan, osé, "Joy, le pafum le plus cher au monde" contribue à son succès. 

D'autres belles créations suivront telles que 1000, mais Jean Patou mourra prématurément à l'aube de ses 50 ans en 1936. Sa maison de couture lui survivra jusqu'en 1987, et sa maison de parfums est toujours en activité, avec d'abord pour nez Jean Kerléo, puis Jean-Michel Duriez.

En 2012, Thomas Fontaine devient le parfumeur officiel de la marque.