Até o começo do século 20, as companhias líricas internacionais que se apresentavam no Theatro Municipal traziam da Europa seus instrumentistas e coros completos, pela falta de um grupo orquestral em São Paulo especializado em ópera.
Somente a partir da década de 1920 uma orquestra profissional foi criada e passou a realizar apresentações esporádicas, tornando-se regular em 1939, sob o nome de Orquestra Sinfônica do Theatro Municipal. Uma década mais tarde, o conjunto passou a se chamar Orquestra Sinfônica Municipal de São Paulo e foi oficializado em lei de 28 de dezembro de 1949, que vigora ainda hoje.
A história da Sinfônica Municipal se confunde com a da música orquestral em São Paulo, com participações memoráveis em eventos como a primeira Temporada Lírica Autônoma de São Paulo, com a soprano Bidú Sayão; a inauguração do Estádio do Pacaembu, em 1940; a reabertura de Theatro Municipal, em 1955, com a estreia da ópera Pedro Malazarte regida pelo compositor, Camargo Guarnieri; e a apresentação nos Jogos Pan-Americanos de 1963, em São Paulo.
Estiveram à frente da orquestra os maestros Arturo de Angelis, Zacharias Autuori, Edoardo Guarnieri, Lion Kasniefski, Souza Lima, Eleazar de Carvalho, Armando Belardi e John Neschling.
Roberto Minczuk é o atual regente da Orquestra Sinfônica Municipal – OSM.