Гімназію спочатку було відкрито в Луцьку в грудні 1832 року. 1839 року гімназію перевели до Рівного в спеціально збудоване для неї приміщення.
Закладання фундаменту під головну будівлю гімназії відбулося 11 серпня 1836 року. Будівлю споруди на замовлення князя Любомирського, проект виконав відомий архітектор Бургійон за участю професора архітектури Міховича. В 1839 році будівля гімназії була завершена. Первісна назва вулиці, на який розташувалась споруда – Гімназійна, або Директорська.
Будівля Рівненської чоловічої гімназії пов’язана з іменами Миколи Костомарова, Пантелеймона Куліша, Володимира Короленка, Семена Кузнєца (Саймона Сміта). Окрім навчального закладу в стінах цієї будівлі перебував департамент освіти уряду Директорії, очолюваний Іваном Огієнком.
З 1922 року в споруді розміщувалося управління Волинського шкільного округу, згодом Рівненський обком КП(б)У. В часи окупації – Рейхскомісаріат «Україна», а з 1944 року будинок знов зайняв Рівненський обком компартії. У 1975 році обкомівський будинок передали в розпорядження Рівненського краєзнавчого музею. Музейна експозиція була відкрита в грудні 1978 року і на сьогодні налічує близько 140 000 музейних експонатів.