Der älteste Beleg für das Rathaus stammt aus dem Jahre 1371. Der ursprünglich gotische Bau wurde kurz nach 1600 im Renaissancestil um ein viertes Geschoss aufgestockt und man verzierte es mit phantasievollen Steingiebeln in den Formen der Weserrenaissance. Sie schließen das Dach völlig ein und sind neben den Portalen der Hauptschmuck des Gebäudes. Bizarre Wasserspeier, deren Aufgaben längst Regenrinnen übernommen haben, liegen über dem Gesims. Weit zur Weinstraße hin hängt links oben am Rathaus die Nachbildung des von einem Armbrustbolzen durchbohrten Helmes, den Ritter Eberhard von Engern in der Vitalisnacht 1378 beim Überfall auf die Stadt getragen hat, ein immerwährendes Zeichen siegreichen Bürgerstolzes. Den Dachfirst krönt eine sechsseitige offene Laterne, in der seit 1986 die Nachbildung einer alten Sturm- und Feuerglocke von 1389 hängt.
Seinen gotischen Kern kann das Rathaus aber auch jetzt nicht verleugnen. Ein spitzbogiges Türgewände ist an der Schauseite des Gebäudes hinter dem Hauptportal zu sehen: Beim Umbau wurden einfach zwei Säulen vor den alten Eingang gestellt und ihnen ein Renaissancegiebel aufgesetzt. Zur Hofseite hin hat sich gleichfalls noch ein ehemaliges Pförtchen aus der gotischen Zeit erhalten: Heute dient es als Fenster. Der Umbau des Rathauses geschah in Abschnitten,
wie zwei Inschriften beweisen. Die eine findet sich am obersten Ende der Wendeltreppe an der Innenseite des Türsturzes und gibt darüber Auskunft, daß 1607 der Treppenturm erhöht wurde. Die andere steht über dem Südportal. Dort lesen wir mit dem alten Wahlspruch der Stadt "JUSTITIM, PACEM ET VERITATEM DILIGITE" (Liebt Gerechtigkeit, Frieden und Wahrheit) ANNO DOMINI 1612. Auf die unteren, massiv ausgebildeten Geschosse setzte man ein weiteres in Fachwerk, das unverkennbar die Handschrift von Johannes Weber zeigt, dem Hersfeld noch manch andere Bauten verdankt. In der Fachwerkbrüstung verewigten sich die Bürgermeister des Jahres 1612, Michael Gerwig und Abraham Grüning, deren Anfangsbuchstaben hier eingeschnitzt sind. Diesem Flügel gegenüber lag ursprünglich ein weiterer Fachwerkbau, das "Weinhaus" (Hochzeitshaus) der Stadt, das auch die Stadtwaage enthielt. Nach seinem Abbruch 1880 entstand ein freier Innenhof. Hier steht das Ehrenmal für die Gefallenen des ersten Weltkrieges von Arnold Rechberg. Von der Innenausstattung des Rathauses sind die Stuckdecke im stattlichen Sitzungssaal sowie im Stil der Weserrenaissance Wandtäfelungen und Intarsien von Bedeutung. Eine besondere Würdigung verdient die prunkvolle Tür des Ratssaales (um 1600): Je zwei Halbsäulen betonen das Portal und tragen einen obeliskenbesetzten Giebel mit reichen Schnitzereien und Interasien. Über dem Sturz steht in Einlegearbeit zu lesen: "der Herr behüte deinen Ausgang und Eingang von nun an biß in Ewigkeit. ps. 121". In der Türfüllung erscheint der hessische Löwe und das Stiftsdoppelkreuz, das alte Hersfelder Stadtwappen. Es deutet die Machtverhältnisse an, die seit 1559 herrschten: Der Landgraf hatte sich endgültig in der Stadt festgesetzt.