O castelo de origem árabe, reconstruído no séc. XIII, possuía um grande perímetro amuralhado, parte do qual ainda é visível.
Voltada para a Rua da Barbacã destaca-se uma torre albarrã, de alvenaria, datada da Baixa Idade Média. Outra das torres visíveis é a denominada Torre de Vela, também esta uma torre albarrã, de taipa, localizada na antiga Rua da Corredoura, actual Rua Engenheiro Duarte Pacheco, e perto desta destaca-se a Porta de Faro, que ainda conserva traços da primitiva construção almóada. No arrabalde sul, ou Mouraria, à saída da Porta de Faro, após a reconquista, foi destinada uma área aos mouros forros que receberam foral de D. Afonso III, em 1269. Era nestas ruas que estariam localizadas as instalações artesanais, a comprovar pelos topónimos outrora ou ainda hoje existentes.
Não existem vestígios da primitiva alcáçova, no entanto pressupõe-se que estaria situada no mesmo local onde hoje se encontra a alcaidaria que alberga vários espaços culturais (Museu Municipal; Cozinha Tradicional; Centro de Documentação com hemeroteca, fototeca, bibliografia e estudos variados sobre a história local e regional, personalidades, acontecimentos e outros).
Conservam-se, pela cidade, as muralhas almóadas de taipa, construídas, ou pelo menos, reforçadas no século XII, as quais são visíveis em pequenos tramos, camuflados por casas que foram sendo construídas adossadas à mesma, e outros panos de muralha que foram sendo descobertos em recentes intervenções efectuadas pela autarquia.