Le château de Pagax se situe dans l'ancienne province du Rouergue et à la limite du Quercy tout proche. Il domine la vallée du Lot sur les hauteurs du village de Flagnac en Aveyron.
Son architecture est typique des forteresses du XIIe et XIIIe siècle, avec un corps de logis de plan carré élevé sur trois étages au-dessus d'un rez-de-chaussée aveugle, flanqué de quatre tours d'angles reliées par des mâchicoulis.
La plus ancienne mention qui soit faite du château de Pagax remonte à 1259. Il fût érigé pour fixer l'autorité royale en cette région. Il faisait partie du patrimoine de la noble et puissante famille De Montarnal puis passa ensuite par héritage dans la famille de Moret. Cette dernière devint très importante dans le Rouergue et le Gévaudan proche et elle était connue par ses vastes possessions, par ses services et emplois militaires, par ses alliances distinguées qui lui donnaient des parentés avec les premières maisons du royaume...