Localizado atrás da Catedral, na fronteira entre a área fundada pelos romanos e a construída durante a Idade Média, na área de Vasto, o Palácio D'Avalos ergue-se como uma grande laje quadrada de pedra clara. Acredita-se que o edifício tenha sido fundado pelo líder e senhor de Vasto, Giacomo Caldora, no início do século XV.
Restam poucos vestígios da aparência original. Entre eles, resistiu ao desgaste do tempo, o sistema estrutural com o grande pátio central e algumas características visíveis do lado de fora, incluindo uma janela geminada e os restos do portal durazzesco, que testemunham a elegância dos aparelhos arquitetónicos e decorativos.
Em 1496, a propriedade passou para os Guevara, que provavelmente concluíram a construção em direção ao mar, antes de o domínio passar para os D'Avalos em 1573. A Senhora Isabella Gonzaga, filha do Duque de Mântua, empreendeu obras de consolidação e reconstrução após a morte do seu consorte, que só foram concluídas no início do século XVII.
A idade de ouro do palácio foi durante o século XVIII, quando os novos proprietários da família Lante della Rovere renovaram os apartamentos e estabeleceram uma pequena, mas animada, corte. Com a invasão francesa, o palácio começou a decair e, durante o século XIX, muitas salas foram demolidas ou usadas para vários fins. Desde 1970, iniciou-se um processo gradual de recuperação.
Hoje, o Palácio D'Avalos alberga as coleções de arte e arqueologia da cidade. Na galeria de arte da ala leste e sul do primeiro andar, há obras de: Donnini, Moccioli, Michetti, Brill e Palizzi.
A coleção arqueológica, composta por cinco salas, também exibe artefactos da Idade do Ferro até ao início da Idade Média, que demonstram o desenvolvimento da área de Frentana e da cidade de Histonium (a antiga Vasto). Há também: terracotas votivas dos santuários de Villalfonsina e Punta Penna, uma coleção de bronzes, uma de moedas, retratos da gens giulio-claudia, sarcófagos, ânforas, artefactos do anfiteatro e dos aquedutos, cisternas e um complexo termal em mosaico, lamparinas, tijolos estampados e um busto de mulher.
Por fim, na sala dedicada à antiguidade tardia e ao início da Idade Média, estão expostas epígrafes, moedas e um tabernáculo de uma igreja de Vasto do século VII.