Zgrada je, dolaskom austougarske uprave, prvobitno izgrađena 1887. godine kao Konak da bi 1891. godine pretvorena u zgradu Vijećnice. Nije poznato ime graditelja, ali pretpostavlja se da su je gradili isti majstori kao i zgradu Osman-kapetanove medrese. Za vreme austrougarske uprave služi kao uprava kotara i sud, izmeđa dva rata za upravu sreza, a nakon Drugog svjetskog rata za upravu grada Gračanica. Danas su u njoj gradonačelnik i neke gradske službe.

Komisija za očuvanje nacionalnih spomenika 2009. godine proglasila je „Historijsku građevinu Konak-Vijećnica u Gračanici“ nacionalnim spomenikom Bosne i Hercegovine.