Dom mieszkalny Szejnenberga został zbudowany w latach 1910-ch. Budowla jest jaskrawym przykładem mieszczańskiej architektury dworskiej Ostroga końca XIX – początku XX wieku. W zdobieniu zewnętrznym domu dominują elementy klasycyzmu. Główne wejście do domu ozdobione jest półkolumnami, które znajdują się na krawędziach wejścia.
Najpierw część domu zajmowała drukarnia Szejnenberga, a już w 1920 roku w domu Szejnenberga rozmieszczono redakcję gazety «Wiadomości Ostrogskiego Ujazdowego Komitetu Rewolucyjnego». Według słów dawnych mieszkańców miasta od roku 1921 do 1939 w budynku znajdowały się różne urzędy, w szczególności: szkoła kierowców i sąd. W roku 1939 tutaj mieścił się komitet rejonowy partii. W okresie okupacji Ostroga przez nazistowskich najeźdźców (1941-1944) dom zajmowała komendatura okrężna żandarmerii niemieckiej, a po wojnie uszkodzony budynek został naprawiony i w nim znajdował się Oddział Ostrogski Banku Państwowego ZSRR.
W roku 1988 odbyło się przekazanie budynku Państwowemu Rezerwatu Historyczno-Kulturowemu m. Ostroga, gdzie dalej rozmieszczone zostało składowanie rezerwów rezerwatu. Od roku 1997 w pomieszczeniu składowania rezerwów została otwarta stała wystawa numizmatyczna. Ekspozycja reprezentowana jest w jednej sali, gdzie eksponowane są powyżej trzech tysięcy przedmiotów. Szczególne miejsce wśród eksponatów zajmują szaty na ikony XVIII-XIX wieku.