Em 1802, o Município de Bolonha projetou um liceu musical a ser colocado no convento de São Tiago, ao lado da igreja com o mesmo nome. O instituto, inaugurado a 3 de dezembro de 1804 como Liceu Filarmónico, dedicava-se ao ensino de composição, piano, canto e instrumentos de corda e sopro. Entre os primeiros professores estavam compositores conhecidos como Stanislao Mattei e Giovanni Callisto Zanotti.
Em 1839, um novo regulamento estabeleceu limites de matrícula e requisitos para os professores. Gioachino Rossini, então residente em Bolonha, assumiu o papel de consultor honorário perpétuo, influenciando a escola com a sua paixão pela música alemã e propondo a inclusão de Stefano Golinelli e Gaetano Donizetti, mas este último não aceitou.
Entre os séculos XIX e XX, diretores como Luigi Mancinelli, Giuseppe Martucci e Marco Enrico Bossi reformaram o instituto, expandindo as disciplinas e melhorando as condições dos professores. Mancinelli introduziu novos cursos, Martucci orientou a escola para a sinfonia de Wagner e Bossi reforçou a aula de contraponto.
No período seguinte, diretores como Ferruccio Busoni e Franco Alfano fizeram mais melhorias: Cesare Nordio, diretor de 1925 a 1945, transformou o Liceu em Conservatório do Estado. Hoje, o Conservatório continua a expandir-se e a formar talentos musicais num prestigiado edifício localizado na Praça Rossini, ao lado da igreja de São Tiago Maior.