Sotto la direzione di Pellegrino Strobel (direttore dal 1859 al 1895) e Girolamo Cocconi che fece le veci di direttore tra il 1865 e 1867, iniziò la fase di riordino del materiale della sezione paleontologica del Museo di Storia Naturale. Nel 1884 Strobel elenca tra il patrimonio della sezione paleontologica del Museo di Storia Naturale la collezione di conchiglie fossili (3000 numeri circa) del Parmense e Piacentino, riunione delle collezioni Cavezzali, Guidotti, Bergonzi, Cortesi e Podestà, revisionate e pubblicate da Cocconi nel 1873, e altre collezioni minori, dono di appassionati, cinque balenotteridi, tre delfinidi, e altre parti di scheletri dei medesimi, un cranio di Bison prisco studiato da Cuvier, parti scheletriche di elefanti e cheloni. Nel 1874 avvenne la prima divisione del Museo di Storia Naturale in due sezione distinte, zoologica e mineralogica-geologica, derivata dalla divisione delle medesime cattedre.
Nel 1895 con la separazione delle cattedre universitarie di mineralogia e geologia, la sezione mineralogica-geologica del museo fu divisa in Museo Geologico e Museo Mineralogico, ubicati entrambi nel Palazzo centrale dell’Università ma a piani differenti. Il Museo geologico ebbe come direttori Vittorio Simonelli (1895-1924), Paolo Vinassa de Regny (1924-1941), Mario Anelli (1941-1952), Sergio Venzo (1952-1978) che trasferì il Museo Geologico dalla sede centrale dell’Università alla sede dell’Istituto di Geologia in Via D’Azeglio, cambiandone anche il nome in Museo Paleontologico Parmense. Da quel momento il patrimonio del museo è stato incrementato da materiale raccolto e studiato dai paleontologi dell’istituto prima e del dipartimento poi, seguendo l’indirizzo paleontologico – stratigrafico delle ricerche.

Un successivo trasferimento avvenne nel 1987 sotto la direzione di Giuseppe Pelosio (1978-1999), quando sia l’Istituto che il Museo furono collocati nel nuovo plesso di Scienze della Terra all’interno del neoformato polo scientifico e tecnologico universitario. Nella nuova e attuale sede il patrimonio paleontologico, costituito in prevalenza da reperti (soprattutto molluschi) provenienti da depositi neogenici dell’Emilia occidentale, area-chiave per l’evoluzione paleoclimatica del Mediterraneo negli ultimi 10 milioni di anni circa, è esposto solo in parte. Infatti  nel corridoio centrale del Dipartimento sono visibili, ad esempio, alcuni resti di delfini e balenottere facenti parte delle collezioni Podestà e Cortesi, un cranio di rinoceronte del Pleistocene del Torrente Stirone, pesci eocenici di Bolca, mastodonti della Columbia raccolti da Strobel. Il restante patrimonio è conservato in tre stanze del plesso di Scienze della Terra che contengono parte delle collezioni malacologiche utili per la ricerca, nei depositi del Dipartimento e nelle sale paleontologiche del Museo di Storia Naturale (una parte dei vertebrati).
Dal 1999 al 2013, la direzione del Museo venne assunta dai direttori del Dipartimento di Scienze della Terra che si sono succeduti nel tempo. Dal 2013, con la creazione del Dipartimento di Fisica e Scienze della Terra “M. Melloni”, il museo costituisce la sezione paleontologica del Museo di Fisica e Scienze della Terra, afferente all’omonimo dipartimento, insieme  alla sezione di mineralogia e alla sezione di strumenti scientifici “Macedonio Melloni”