Ce bâtiment est communément appelé palais pour la beauté de son architecture et la richesse du décor de ses deux façades. En réalité, il s’agit d’un immeuble de rapport qui comporte deux étages comprenant des habitations de type appartement, alors que le rez-de-chaussée est destiné à des activités économiques de commerce et de services. Ce « palais » a été érigé entre 1909 et 1913, alors que le style architectural dit arabisant, déjà bien élaboré, connaissait une expansion remarquable dans les quartiers nés à la faveur de la colonisation comme à Tunis et à Sousse. Mais on sait que le fleuron de ce courant est certainement l’ancien théâtre de Sfax, construit en 1903 puis bombardé en 1943, et dessiné par l’architecte Raphael Guy, l’initiateur de ce style novateur sur un fond local hérité. Deux faux minarets à base carrée et à lanternon coiffé d’une calotte pyramidale, situés l’un à l’angle de l’avenue Habib Bourguiba et de l’avenue Hédi Chaker, et l’autre en surplomb de l’entrée, se détachent des deux façades crénelées à l’instar des remparts de la médina. Au premier étage de ces tours, on distingue une baie en arc de cercle outrepassé monté sur colonnettes ; au second, deux fenêtres géminées et au troisième, trois autres fenêtres. Le palais Ben Romdhane est remarquable aussi par son entrée monumentale et la galerie de sa façade ouest. Encadrée de deux colonnettes surélevées, taillées dans le marbre et coiffées de chapiteaux de type hispano-mauresque, la porte d’entrée est formée de deux battants composés chacun de trois panneaux en bois, comportant un décor sculpté, géométrique et floral. Elle est en outre surmontée d’un appareil composé d’une plate-bande en pierre calcaire, en forme d’arc de décharge de plein cintre outrepassé, dans lequel ouvre une fenêtre à grille composée de barreaux entrecroisés. Quant aux écoinçons, ils sont rehaussés de motifs floraux sculptés et coloriés. Le tout est coiffé d’une série de corbeaux. Du côté ouest de ce monument, en face de l’hôtel de ville, une galerie montée sur des arcs de plein cintre outrepassé et des colonnes de forme tronconique taillées dans le calcaire et surmontées de chapiteaux de type hafside, supporte les deux niveaux supérieurs de l’immeuble. Dans l’esprit de son concepteur, cette galerie était destinée à procurer de l’ombre aux passants si bien qu’elle a servi de modèle aux immeubles du nouveau quartier commercial.