L'histoire se déroule à Rochefort, une charmante ville portuaire, où vivent les jumelles Solange et Delphine Garnier (Françoise Dorléac et Catherine Deneuve). Solange est professeur de danse et compositrice, tandis que Delphine enseigne la danse et la musique. Toutes deux rêvent de trouver le grand amour et de quitter Rochefort pour Paris.
Parallèlement, la ville se prépare à une grande foire où des marins américains sont de passage. Parmi eux, se trouvent Andy Miller (George Chakiris), un musicien à la recherche de sa muse, et Bill (Grover Dale), un danseur.
Au même moment, Simon Dame (Michel Piccoli), un propriétaire de magasin de musique qui a autrefois aimé la mère des jumelles, arrive à Rochefort pour une exposition. Yvonne Garnier (Danielle Darrieux), la mère des jumelles, gère un café et ne se doute pas de l'arrivée de Simon.
Les destins des différents personnages s'entremêlent au fil des jours. Delphine croise le chemin de Maxence (Jacques Perrin), un marin et peintre rêveur qui cherche son idéal féminin. Solange, quant à elle, fait la connaissance d'Andy et de Bill. Les rencontres sont souvent manquées de peu, les personnages se croisant sans se rencontrer réellement, ajoutant une touche de fatalité romantique.
Le film est rythmé par des numéros musicaux joyeux et des chorégraphies virevoltantes. Les dialogues sont souvent chantés, ce qui donne au film une atmosphère onirique et intemporelle. Les couleurs vives des décors et des costumes contribuent également à l'ambiance joyeuse et optimiste.