Au XIIIe siècle déjà, des comptes mentionnent la Maison de la Paix, située rue de Nimy. D'autres documents de la même époque laissent supposer qu'il existait deux Maisons de la Paix, l'une rue de Nimy, la plus ancienne, une autre sur le marché. C'est en 1323 que le comte Guillaume Ier[103] donne l'autorisation de bâtir la Maison de la Paix sur l'emplacement de l'actuel Hôtel de Ville. On parle alors d'une « Maison de Ville » construite en pierres et briques à la base, la superstructure étant de bois. Ce bâtiment subit différentes modifications au cours du XVe siècle, jusqu'en 1477, année où le magasin à poudre qui se trouvait dans l'arsenal voisin explosa.

Les bâtiments détruits furent reconstruits et bénéficièrent de nouvelles modifications et d'agrandissements au cours des siècles suivants.

L'architecte Mathieu de Layens originaire de Soignies, auteur e.a.de l'Hôtel de Ville de Louvain, fut appelé pour en dresser les plans. Il devait s'agir d'un édifice en style gothique flamboyant, mais il semble bien que le plan (que l'on n'a pas retrouvé) n'ait pas été respecté, notamment par l'abandon du deuxième étage, qui était pourtant prévu. Le campanile de style Renaissance fut ajouté au XVIIIe siècle. Il contient une cloche datant de 1390, la Bancloque, et porte une horloge à cadran donnant sur la Grand-Place ainsi qu'une horloge lumineuse. Le XIXe siècle vit diverses modifications de la façade, l'enlèvement des meneaux de pierre à l'étage et de divers ornements de pierre.

Dans son état actuel, l'Hôtel de Ville présente un ensemble remarquable de divers bâtiments abritant une grande partie des services communaux. Ces bâtiments ont subi de nombreuses modifications au cours des siècles, des restaurations et des ajouts d'éléments provenant d'autres bâtiments, comme une cheminée gothique du château de Trazegnies, des portes sculptées du XVIe siècle provenant de démolitions, une cheminée venant du château de Gouy-lez-Piéton, une autre cheminée de 1603 venant du château d'Havré.