Riedificata sul finire del XII secolo, sulle rovine della cattedrale bizantina di cui vi rimane traccia nei resti visibili nel pavimento vicino al transetto, fu distrutta nel 1156 da Guglielmo il Malo per punire la città ed il clero per le ribellioni ai normanni. La Cattedrale di San Sabino è la cattedrale di Barii, seconda per notorietà e prestigio alla Basilica di San Nicola.
Situata nel cuore della città vecchia in Piazza dell' Odegitria, in stile romanico fu rivisitata dall'architettura barocca settecentesca.
Nella cripta sono conservate le reliquie di San Sabinoo, vescovo di Canosaa, nell'altare maggiore. Trasportato il busto argenteo di San Sabino nell'archivio capitolare, oggi è venerata l'icona della Madonna Odegitria secondo la tradizione giunta dall'Oriente nel VIII secolo, ma in realtà più tarda e dal culto molto antico.
Nelle absidi minori vi sono due sarcofagi: uno contiene le reliquie di Santa Colomba, di recente restaurate, e l'altro reliquiari vari. Nella sagrestia di destra è collocato un altare con un dipinto raffigurante, probabilmente, San Mauro, ritenuto primo vescovo d Bari. L'attuale Cattedrale è quindi il risultato di lavori iniziati subito dopo la distruzione operata da Guglielmo il Malo. Per l'opera furono usati materiali provenienti dalla chiesa precedente e da altri edifici distrutti. Consacrata il 4 ottobre 1292, la chiesa si rifà allo stile della Basilica di San Nicola. L'edificio ha poi subito una serie di rifacimenti, demolizioni ed aggiunte a partire dal XVIII secolo. Gli ultimi due restauri risalgono, il primo al XX secolo che ha riportato in luce le strutture romaniche, il secondo al XXI secolo che ha ridato splendore all'intero edificio.
Stilisticamente, si tratta di un importante esempio di stile romanico pugliese. La facciata è semplice: nella parte inferiore si aprono tre portali del XI secolo, la parte superiore è ornata da un rosone la cui ghiera è affollata di mostri ed esseri fantastici. Nuovo lo svettante campanile, rifatto con pietre simili alle originali, ed elaborato il tiburio e, sotto, la calotta della cupola con chiari motivi moreschi.
Internamente la chiesa, che è stata spogliata di tutte le strutture barocche, si presenta nella sua nuda bellezza agli occhi del visitare tutto il romanico pugliese lo si ritrova nei transetti nel falso matroneo, nel magnifico pulpito rifatto in questi ultimi tempi con lo stesso materiale con cui fu, nei tempi remoti, impastato.
La cattedrale è divisa in tre maestose navate da sedici colonne e altrettanti archi.
Durante il XVIII secolo la facciata, l'interno delle navate, l'interno della Trulla (l'antico battistero del XII secolo, oggi sacrestia) e la cripta furono rifatte in forme barocche su progetto di Domenico Antonio Vaccaro. L'arredo interno fu invece riportato alle antiche fattezze romaniche negli anni Cinquanta del XX secolo.