W dniu 5 maja 1921 roku miało miejsce uroczyste otwarcie Muzeum Ziemi Sandomierskiej przy Polskim Towarzystwie Krajoznawczym w Sandomierzu. Inicjatorami utworzenia muzeum regionalnego byli członkowie ówczesnego zarządu Towarzystwa: Stanisław Karpowicz, Józef Pietraszewski, Zdzisław Lenartowicz, Aleksander Patkowski i ks. Andrzej Wyrzykowski.

Muzeum Sandomierskie od początku swej działalności należało do najbardziej prężnie i dynamicznie rozwijających się placówek PTK. Mimo to, od chwili powołania w 1921 r. przeżywało duże trudności lokalowe. Zbiory znajdowały się u członków PTK, starających się o lokalizację własnego budynku przeznaczonego wyłącznie na potrzeby muzeum. Starania te uwieńczone zostały sukcesem i w 1925 roku Muzeum otrzymało swoją siedzibę w domu PTK przy ulicy Żeromskiego.

Pierwszym kustoszem Muzeum został Leon Wilkoński (pełniący funkcję kierownika placówki od 1927 do 1939 roku), który rozpoczął opracowywanie zbiorów, założył księgi inwentarzowe i karty katalogowe zabytków. Eksponaty pochodziły ze zbiorów prywatnych założycieli i przyjaciół powstałego Muzeum, a stanowiły je zabytki archeologiczne, numizmaty, okazy mineralogiczne, entomologiczne i zabytki kultury materialnej. Podczas wojny najdotkliwsze straty poniosła kolekcja przyrodnicza, ponadto zaginęła znaczna część zbiorów numizmatycznych i etnograficznych.

W 1956 roku przez Ministerstwo Kultury i Sztuki zostaje powołane Muzeum w Sandomierzu z siedzibą w Kamienicy Oleśnickich, w której na pierwszym piętrze zorganizowano sale ekspozycyjne oraz skromne pomieszczenia biurowe. Pierwsza uroczyście otwarta wystawa poświęcona była Adamowi Mickiewiczowi. Muzeum kierowane było kolejno przez: Eligię Gąsowską (1957 - 60), Kamilę Załuską (1961 - 70), Jana Przałę (1970 - 75), Ireneusza Skrzyńskiego (1975 - 76), Kazimierza Kałużę (1976 - 77), Jerzego Waszkiewicza (1978 - 95), Zofię Czubową (1995 – 2009) i obecnie przez Pawła Różyłę.

W powojennym okresie istnienia Muzeum różnym przeobrażeniom ulegała baza lokalowa Muzeum. W 1978 roku poszerzyła się o trzy sale na parterze gotycko - renesansowego Ratusza. Zorganizowano w nich ekspozycję historyczno - artystyczną. W roku 1980 powołano jako oddział Muzeum Okręgowego Muzeum Literatury. Inicjatywa ta miała upamiętniać i podkreślać wieloletni związek Jarosława Iwaszkiewicza z Sandomierzem, do którego rokrocznie przyjeżdżał już od początku lat 20 - tych i w czasie tych wielotygodniowych pobytów powstała znaczna część jego dorobku literackiego. Na siedzibę placówki przeznaczono budynek przy ul. Katedralnej 5/7, gdzie zatrzymywał się w czasie swoich tutaj pobytów.

W roku 1987, bo blisko trzydziestoletnim okresie remontów, oddano Muzeum w użytkowanie na czas nieokreślony zamek sandomierski stanowiący obecnie po zwrocie Kamienicy Oleśnickich i zamknięciu Oddziału Literatury podstawową bazę muzealną. Mieszczą się w nim pracownie wszystkich działów, sale wystaw czasowych i stałych, sala rycerska pełniąca funkcje sali koncertowej, teatralnej, będąca często miejscem imprez o charakterze okolicznościowym i społecznym, galeria w której najczęściej urządzane są wystawy malarstwa, biblioteka, oraz pomieszczenia administracyjne.