Η ιστορία του Μουσείου έχει αφετηρία το 1858. Όλα ξεκίνησαν με τη δωρεά των συλλογών της Φυσιογραφικής Εταιρίας στο Πανεπιστήμιο Αθηνών. Αυτές οι συλλογές παγίωσαν την ίδρυση του Μουσείου Φυσικής Ιστορίας. Κατά τη διάρκεια αυτών των πρώιμων ετών, και παρά τις οικονομικές δυσχέρειες, οι συλλογές του Μουσείου αυξήθηκαν σημαντικά, χάρη στις πολλές δωρεές, τις αγορές αλλά και τη συλλογή υλικού κατά τη διάρκεια επιστημονικών αποστολών στην Ελλάδα.
Ήδη κατά τη διάρκεια των πρώτων δεκαετιών της ιστορίας του Μουσείου, το ινστιτούτο ήταν χωρισμένο σε μικρότερους, περισσότερο ή λιγότερο ανεξάρτητους τομείς.
Καθένας από τους πέντε τομείς είχε στην ευθύνη του μία από τις συλλογές: την βοτανική, τη συλλογή ορυκτών, την παλαιοντολογική, την ανθρωπολογική και την ζωολογική.
Το ανεξάρτητο Μουσείο Παλαιοντολογίας και Γεωλογίας ιδρύθηκε το 1906. Εκείνη την εποχή στεγαζόταν στο ισόγειο ενός μικρού κτηρίου στη γωνία των οδών Ακαδημίας και Σίνα, στο κέντρο της Αθήνας. Η κύρια έκθεσή του στεγαζόταν σε μια επιμήκη αίθουσα, ελάχιστα αρκετή για την παρουσίαση μιας γενικότερης γεωλογικής και παλαιοντολογικής συλλογής. Η πλειονότητα του υλικού ήταν αποθηκευμένη σε δύο δωμάτια στο υπόγειο ενός διπλανού κτηρίου που ανήκε στη Νομική Σχολή.
Το κτήριο αυτό δεν υπάρχει πια, και στη θέση του υπάρχει σήμερα οκήπος του διπλανού κτηρίου.
Το 1981 το Μουσείο μεταφέρθηκε στη σημερινή του τοποθεσία, στα κτήρια της Πανεπιστημιούπολης, εκτός του κέντρου των Αθηνών. Το Μουσείο στεγάζεται στο ίδιο κτήριο με το Τμήμα Γεωλογίας και Γεωπεριβάλλοντος.
Το Μουσείο Παλαιοντολογίας και Γεωλογίας στεγάζει μιαν αναντικατάστατη γεωλογική συλλογή, απολιθώματα της χλωρίδας και πανίδας της ελληνικής ενδοχώρας αλλά και των ελληνικών νησιών. Η συλλογή των απολιθωμάτων χωρίζεται σε τέσσερεις κύριες κατηγορίες: ασπόνδυλα, σπονδυλωτά, φυτά και μικροπαλαιοντολογικά αντικείμενα. Τα σημαντικότερα απολιθώματα εκτίθενται για το κοινό. Τα απολιθώματα από την Ελλάδα χρονολογούνται από 290 εκατομμύρια χρόνια πριν μέχρι και περίπου μόνο 4.4 χιλιάδες χρόνια. Τα αρχαιότερα ελληνικά απολιθώματα είναι τριλοβίτες και βραχιόποδα από τα Permian κοιτάσματα της Χίου. Εκτός από τα ελληνικά απολιθώματα, έχουμε επίσης μερικά απολιθώματα από το εξωτερικό και εκμαγεία, κυρίως από μεγάλα ερπετά.
