Muzeum Geologiczne Państwowego Instytutu Geologicznego powstało z chwilą założenia Instytutu. Posłowie sejmu galicyjskiego, na czele z Wincentym Witosem, wystąpili do Sejmu Rzeczypospolitej Polskiej z wnioskiem nagłym, w dniu 3 kwietnia 1919 r., o powołanie Państwowego Instytutu Geologicznego, który rozpoczął swą działalność w dniu 7 maja 1919 r.

Pierwszym dyrektorem mianowano jednego z najwybitniejszych uczonych – profesora Uniwersytetu Jagiellońskiego – Józefa Morozewicza, który podkreślał, że Instytut musi posiadać: „Muzeum, które by pomieściło możliwie kompletny zbiór okazów kopalnych, na ziemiach polskich znalezionych, oraz które by przechowywało oryginały i rzeczowe dowody rozpraw naukowych, przez P.G.I. drukiem ogłaszanych.”

Pierwszym naczelnym kustoszem Muzeum został Jan Czarnocki, który z wielkim zaangażowaniem zabrał się do tworzenia kolekcji muzealnej. Trzon zbiorów stanowiły przekazane przez niego i innych wybitnych geologów kolekcje gromadzone w czasie ich wieloletnich badań oraz eksponaty przekazane z Muzeum Przemysłu i Rolnictwa i Politechniki Warszawskiej. W latach 20. XIX wieku kolekcja liczyła 180 000 okazów. Na początku swej działalności Instytut mieścił się na III piętrze Pałacu Staszica w Warszawie, gdzie miejsca wystarczało na zorganizowanie zaledwie kilku podstawowych pracowni Instytutu, zbiory więc zgromadzono w skrzyniach w magazynach, z nadzieją na ich późniejsze wyeksponowanie.

Budowę docelowej siedziby Państwowego Instytutu Geologicznego rozpoczęto dopiero w 1925 roku. W wyniku konkursu realizację budowy powierzono znanemu architektowi – Marianowi Lalewiczowi. Budowę pawilonu południowego, „chemicznego”, ukończono rok później. Natomiast gmach główny, w którym znajduje się Muzeum oddano do częściowego użytku w 1930 roku. Wtedy też nastąpiła ostateczna przeprowadzka z Pałacu Staszica. W nowym budynku dla Muzeum Geologicznego przeznaczono cały parter głównego pawilonu, obejmujący trzy sale o powierzchni ogólnej 1500 m² oraz 20 piwnic w podziemiach (600 m²). Ten układ wzorowano na założeniach architektonicznych Instytutu Górniczego w Petersburgu i Brytyjskiego Muzeum Geologicznego w Londynie, gdzie w głównych salach umieszczono ekspozycję, a wokół nich rozmieszczono pomieszczenia na kameralne wystawy i pracownie.

W 1934 roku przystąpiono do organizowania działu wystawowego, jednak brak odpowiednich gablot i mebli bardzo to utrudniał. Objęcie w 1937 roku funkcji dyrektora Państwowego Instytutu Geologicznego przez prof. Karola Bohdanowicza stanowiło punkt zwrotny w dziejach Muzeum. Dzięki jego działaniom, w marcu 1938 roku zostały uruchomione pracownie muzealne: preparatornia, szlifiernia i magazyny. W efekcie wzmożonej pracy i dofinansowania powstały w 1939 roku wystawy: Bogactw Naturalnych w sali głównej, gdzie umieszczono unikatową bryłę węgla z pokładu „Reden” i dwie amfory ropy naftowej, oraz Budowy Geologicznej Polski w sali zachodniej. Ekspozycje te dawały pełny obraz budowy geologicznej Polski i jej bogactw, rozpoznanych ówczesnymi badaniami, wzbogacone mapami, przekrojami geologicznymi i modelami. Do najbardziej interesujących należał model Polskiego Zagłębia Węglowego. W roku 1939 w Księdze Nabytków zarejestrowano prawie 200 kolekcji, co przekładało się na kilkaset tysięcy okazów. Były to największe zbiory geologiczne w Polsce.

II wojna światowa przerwała gwałtownie realizacje dalszych prac. Podczas bombardowania Warszawy we wrześniu 1939 roku muzeum poniosło ogromne straty. Szklany dach został podziurawiony, wyposażenie połamane a okazy zniszczone, porozrzucane i zmieszane z gruzem. W 1944 roku podczas Powstania Warszawskiego spłonęła duża część muzeum wraz z najcenniejszymi zbiorami. Ocalało 30 % okazów: część wydobyto spod gruzów i mimo dużych uszkodzeń, stanowią one do dziś cenne materiały.

W 1945 r. przystąpiono do odbudowy Instytutu. Pod kierunkiem prof. Romana Kozłowskiego rozpoczęto prace porządkowe i zabezpieczanie zbiorów Muzeum. Powojenny rozwój prac geologicznych przyczynił się do szybkiego powiększenia liczebności kolekcji: organizowano specjalne wyjazdy terenowe, mające na celu zebranie eksponatów wystawowych, na apel dyrekcji Instytutu wyjątkowe okazy przekazały zarządy kopalń i dyrekcje przedsiębiorstw geologicznych.

Ministerstwo Przemysłu i Handlu przekazując odbudowane gmachy w końcu 1946 roku zwróciło się do prof. Karola Bohdanowicza o umożliwienie zorganizowania w nich wystawy Przemysłu Ziem Odzyskanych. Wystawa ta, otwarta przy udziale najwyższych władz państwowych, była dużym wydarzeniem w życiu ówczesnej Warszawy. Od 11 maja do 30 czerwca 1947 roku zwiedziło ja kilkadziesiąt tysięcy ludzi, którzy byli zaskoczeni stanem gmachu i estetycznym uporządkowaniem otoczenia. Było to, wśród ówczesnych ruin Warszawy, wyjątkiem i podkreślało duże znaczenie geologii w życiu gospodarczym kraju.

W latach 50-tych ozdobą muzeum stał się, przepiękny okaz soli z Grot Kryształowych Wieliczki, skrzemieniały pień karbońskiego drzewa nagonasiennego oraz szkielety wielkich ssaków plejstoceńskich. Szkielet mamuta wielkiego eksponowany w Muzeum PIG został złożony w lecie 1957 roku z materiałów kostnych pochodzących ze stanowiska Pyskowice przez prof. dr. Zbigniewa Ryziewicza i dr. Teresę Czyżewską z uniwersytetu Wrocławskiego i stał się symbolem Muzeum. Prace techniczne (konserwacja, uzupełnienia i wypełnienia materiału kostnego gipsem, konstrukcje nośną szkieletu) wykonali pracownicy Muzeum pod nadzorem autora rekonstrukcji. Brakujące elementy szkieletu zostały pozyskane z Górnośląskiej Stacji Terenowej PIG, Muzeum Górnośląskiego w Bytomiu i Muzeum we Wrocławiu. Eksponowany szkielet ma 3,15 m wysokości, 5,70 m długości. Długość ciosów wynosi 3,5 m. Obok mamuta stanęły jeszcze dwa szkielety – niedźwiedzia jaskiniowego i nosorożca włochatego. Obie rekonstrukcje wykonali także prof. dr Z. Ryziewicz i dr T. Czyżewska.

Badania prowadzone w instytucie w latach 40., 50., 60. doprowadziły do odkrycia najważniejszych złóż surowców mineralnych, efektem tych prac są bogate kolekcje mineralogiczno - petrograficzne. W latach pięćdziesiątych, pod kierownictwem dr. Marii Żelichowskiej rozpoczęto prace nad nową ekspozycją Muzeum Geologicznego PIG. Uruchomiono dwie wielkie wystawy stałe: Surowce mineralne Polski – na parterze i Stratygrafia Polski – na piętrze. Większość okazów była umieszczona w pulpitowych gablotach, nad którymi znajdowały się tablice z informacjami tekstowymi i graficznymi. Obie wystawy opracowano jak na ówczesne czasy bardzo efektownie, dzięki temu spełniały one swe zadanie dydaktyczne niemal przez 40 lat.
W 1970 roku Muzeum wzbogaciło się o kolejne 2 wystawy: petrograficzną i mineralogiczną, które zawierały około 300 minerałów i skał. Lata siedemdziesiąte i osiemdziesiąte to czas intensywnych prac geologicznych w Instytucie, efektem prac badawczych są bogate zbiory dokumentujące budowę geologiczną Polski.

Lata dziewięćdziesiąte przyniosły zasadniczą zmianę w podejściu do roli, jaką ma odgrywać Muzeum Geologiczne PIG. Z instytucji o naukowym charakterze zaczęto przekształcać się w placówkę, którym głównym celem stała się edukacja geologiczna i ekologiczna społeczeństwa. Pociągało to za sobą konieczność dostosowania ekspozycji do tych celów. Aby sprostać temu wyzwaniu Dyrekcja Państwowego Instytut Geologicznego powołała w 1997 roku Komisję ds. Modernizacji Muzeum Geologicznego oraz zespoły, które miały opracować scenariusze poszczególnych wystaw. Zmiana wystawy wymagała dużego wysiłku finansowego. Pomocy udzielił Narodowy Fundusz Ochrony Środowiska i Gospodarki Wodnej w postaci dotacji, która umożliwiła zakupienie nowoczesnych elementów wystawienniczych: gablot i kiosków multimedialnych, które pod koniec XX wieku stanowiły jeszcze rzadkość w polskich muzeach. W skład nowych ekspozycji weszły ścienne mapy geologiczne, wielka tabela stratygraficzna z ewolucją świata organicznego, mapy rozmieszczenia kontynentów i oceanów w dziejach Ziemi, model komory jaskiniowej naturalnej wielkości i inne. Na wystawie zaprezentowano ponad 4000 okazów. Atrakcyjnym eksponatem stała się rekonstrukcja naturalnej wielkości dinozaura Dilophosaur wethelliri. Jego tropy, Kayentapus soltykovensis odkrył pracownik Państwowego Instytutu Geologicznego w Warszawie Grzegorz Pieńkowski, w skałach liczących około 206 mln lat w Sołtykowie (Góry Świętokrzyskie).

Podczas otwarcia nowej wystawy, 21 października 1999 uhonorowano trzech wybitnych geologów polskich: Stanisława Pawłowskiego, Mariana Książkiewicza i Edwarda Rühlego. Ich nazwiska umieszczono w pamiątkowych medalionach, rozmieszczonych na filarach sali muzealnej, obok innych zasłużonych dla geologii polskiej i światowej. Ekspozycja służy nam do dziś, została podzielona na osiem mniejszych wystaw tematycznych: Materia Ziemi, Historia Polski w kamieniu pisana, Surowce mineralne Polski, Skamieniały Świat, Magmatyzm, Sedymentacja i diageneza, Metamorfizm, Historia Państwowego Instytutu Geologicznego 1919–1999.

W 2000 roku rozpoczęto remont podziemi, dzięki niemu Muzeum zyskało około 800 m2 powierzchni magazynowej, klimatyzowanej i wyposażonej w nowoczesne szafy przesuwne. Gromadzony przez dziesiątki lat, liczący ponad pół miliona okazów zbiór, w 2001 roku został umieszczony w nowym Magazynie Zbiorów. W 2004 roku jedna z wyremontowanych sal, została oddana na potrzeby Muzeum do celów edukacyjnych. Pasje geologiczne staramy się rozwijać poprzez bezpośredni kontakt ze społeczeństwem proponując ciekawe oprowadzanie po wystawie, w trakcie lekcji i warsztatów muzealnych, pikników, konkursów, gier i wycieczek terenowych oraz imprez popularnonaukowych.

W 90 rocznicę istnienia Państwowego Instytutu Geologicznego, odsłonięto tablicę pamiątkową poświęconą Pawłowi Edmundowi Strzeleckiemu, a główną salę wystawową nazwano jego imieniem.

„Powinniśmy zrozumieć, że nauka, wiedza i dokładna znajomość własnej ziemi i jej przyrody to fundamenty kultury narodowej i ogólnego postępu i dobrobytu" (S. Stobiecki, "W sprawie krajowego Muzeum przyrodniczego", Kraków, 1910r.).