Il Palazzo vescovile sito in piazzetta Cattedrale, oggi Largo Trinchera, è stato edificato intorno al 1560 e sostanzialmente ricostruito nel 1750; èunito al palazzo del Seminario dall'Arco Scoppa, dal nome del vescovo che lo fece erigere nel 1750, il cui stemma compare al centro dell'arco. La facciata conserva elementi architettonici del 1550 e del 1700; il portale è sormontato dall'arme della regina Isabella d'Aragona, feudataria di Ostuni dal 1507 al 1524.
Il palazzo del Seminario, eretto per volontà del vescovo Benedetto Milazzo nel 1705, fu completato dal vescovo Francesco Antonio Scoppa che affidò l'incarico al mastro murario Salvatore Trinchera; risistemato negli anni Sessanta del 1900 con la eliminazione del terzo piano, conserva alcuni elementi decorativi della struttura originaria.
Lo stabile è sede della Curia, della Biblioteca Diocesana e dell'archivio Capitolare e Diocesano.