Zgrada Zavičajnog muzeja Ruma najstariji je i istovremeno prvi spratni objekat u gradu. Potiče iz 1772. godine, a sa rimokatoličkom crkvom izgrađenom 1813. i župnim dvorom iz 1815. godine čini jedininstven autentičan urbanističko arhitektonski ansambl gradskog tipa. Sva tri objekta zadužbine su porodice Pejačević.

U testamentu iz 1762. osnivač Rume, Marko Aleksandar baron Pejačević, obavezao je svog naslednika Josipa, odredivši za tu svrhu procenjena potrebna sredstva, da u gradu podigne konfesionalno mešovitu školu „za rimokatoličku i pravoslavnu decu sa rumskog i iločkog vlastelinstva“. Na osnovu plana, za sada nepoznatog bečkog arhitekte, gradnju je izvodio najpre stručni graditelj iz Petrovadina izvesni Johan Mane, a potom zidarski majstor Mihael Vajhman, koji je i dovršio započetu zgradu. Ovim je poslednja volja barona Pejačevića ispunjena i Ruma je dobila svoju školu, u vidu, za to vreme, impozantnog zdanja.
Od tog vremena prošlo je gotovo dva i po veka, a zgrada je i dalje u službi prosvete, obrazovanja, kulture i sveukupnog duhovnog napretka. Tokom svoje duge istorije zadovoljavala je različite školske potrebe – bila je osnovna, crtačka, zanatska i muzička škola. Poslednjih 58 godina u njoj se nalazi Muzej, koji je od 1986. godine, kada je iseljena muzička škola, jedini korisnik ovog vremešnog zdanja.

Zgrada je jednostavne pravougaone osnove u obliku ćiriličnog slova „G“, dužeg kraka „uz put“ (uz Glavnu ulicu). Primer je tzv. „vojno-graničarskog stila“: masivnih ravnih zidova sa velikim brojem simetrično raspoređenih manjih prozora, visokog strmog krova pokrivenog biber crepom, ravnomerno raspoređenih krovnih otvora, „badža“, izdužene fasade vizuelno definisane izrazito profilisanim, širokim horizontalnim etažnim i krovnim vencem – ustvari uprošćene forme provincijskog baroka. Prilikom detaljne obnove objekta i preuređenja za potrebe muzeja tokom druge polovine osamdesetih godina prošlog veka, utvrđeno je da je zgrada građena u više faza i da je tokom vremena imala veći broj unutrašnjih pregradnji i izmena gabarita. Ipak, u osnovi, zadržala je prvobitnu građevinsku koncepciju i karakteristični izgled.