L'unification politique de la Méditerranée après la conquête romaine (146av.JC) avait éclipsé la grande place de la guerre punique.
Ainsi, malgré le grand développement urbain d'Aspis, au II ème siècle de notre ère, sa forteresse ne fut jamais reconstruite.

Les Byzantins qui édifièrent un grand nombre de forteresses à l'intérieur du pays, se désintéresserent également de la place de Kélibia.

Toutefois, vers 580, ils élevèrent un petit fortin, dont les vestiges sont encore apparents à l'intérieur de la citadelle musulmane.

C'est un monument de forme quadrangulaire, flanqué de tours carrées aux angles édifiées à l'aide de gros blocs de pierres de taille provenant des ruines de la citadelle punique.

Ce réduit est destiné, en outre, à protéger une citerne antique dont le bassin est alimenté par les eaux pluviales.