À l’emplacement de cet édifice religieux, une première église est construite en 1586 sous le nom de Notre-Dame du Mont de Rome. Les marins rescapés d’un naufrage venaient y déposer des offrandes et des ex-voto devant l’autel Notre-Dame de la mer. Par la suite cette pratique se transfert à la chapelle de Notre-Dame de la Garde après sa construction.
Pendant la Révolution, cette église est vendue à un particulier le 25 août 1791. Après diverses ventes, fermetures et réouvertures, la ville de Marseille décide le 30 mai 1821 de l’acheter et de la reconstruire car elle ne répondait plus aux exigences du quartier qui s’était développé. La pose de la première pierre de la nouvelle église a lieu le 14 avril 1823 et sa consécration est effectuée le 29 février 1824 par Mgr. Fortuné de Mazenod.
En 1839, le compositeur Frédéric Chopin a joué de l'orgue présent dans cette église alors qu'il était de passage à Marseille, en provenance de Majorque avant de rejoindre Nohant. C'était pour les obsèques d'un ami, le célèbre chanteur Nourrit, décédé prématurément. A la fin des obsèques, Chopin vint voir Monsieur le curé et lui dit "Cet orgue ne vaut rien, vendez-le." Ce qui rejoignait l'avis de ce dernier. L'orgue sera revendu à la commune d'Eyguières. Mais là non plus, l'instrument ne fut guère apprécié, et sa tuyauterie sera revendue un peu plus tard. Ce n'est qu'en 2007 que l'instrument est entièrement restauré par le facteur d'orgues Pascal Quoirin[1]. Pour remplacer l'instrument disparu, on fit appel au facteur d'orgues Ducroquet, successeurs de Daublaine et Callinet, pour la founiture d'un orgues de 24 jeux sur 2 claviers et pédalier. Cet orgue devint très vite inutilisable de fait de la déficience de sa transmission (pneumatique). L'orgue a été protégé en temps que Monument Historique par une mesure de classement, et ce sont ses parties Ducroquet qui ont permis d'obtenir cette protection (Buffet, sommiers de grand-orgue, charpente, soufflerie, et une grande partie de la tuyauterie). En 2007, l'instrument fut entièrement démonté pour être restauré. Le travail a été confié à Jacques Nonnet (Orgues Giroud Successeurs) à Bernin (Isère). L'inauguration est prévue pour la fin de l'année 2009.
