Os anos 2000 foram marcados pela integração de serviços do Departamento de Bibliotecas Infantojuvenis e de Departamento de Bibliotecas Públicas. A Biblioteca Pública Milton Santos foi inaugurada em 2001 com acervo adulto, porém já com um espaço de leitura para crianças e jovens.
Em 2002 iniciou-se o processo de estudo e junção de algumas bibliotecas infantojuvenis e bibliotecas públicas; as Bibliotecas José Paulo Paes e Paulo Setúbal de Vila Formosa tiveram seus espaços integrados como projeto piloto, favorecendo a integração sociocultural entre os diferentes segmentos populacionais nas dezesseis bibliotecas que funcionavam em prédios conjuntos, desenvolvendo um novo paradigma de serviço cultural intergeracional. A unificação das seções dos Ônibus-Biblioteca de BIJ e BP também se concretizou em 2002 e o serviço ficou sob coordenação da Biblioteca Infantojuvenil Monteiro Lobato.
A implementação da descentralização administrativa da Prefeitura e a criação das Subprefeituras impactou na estrutura organizacional dos Departamentos de Bibliotecas. Nela, as Subprefeituras passaram a ser responsáveis diretas pela administração das bibliotecas municipais localizadas nos seus limites territoriais, alterando o foco de ação dos Departamentos para a proposição, implementação e execução das políticas de leitura e informação.
Em 2003, foram iniciados os estudos da nova proposta de estrutura organizacional dos departamentos para a formação do “Sistema Municipal de Bibliotecas”. Para suporte desta rede e seus serviços, os Departamentos de Bibliotecas contavam com: Divisão Técnico-Normativa de Desenvolvimento de Acervos e de Tratamento de Acervos, Divisão de Documentação e Comunicação (Planejamento), Divisão Administrativa, Supervisão de Bibliotecas, Setor de Programas e Projetos, e a Biblioteca Monteiro Lobato.
A expansão de bibliotecas para as periferias prosseguiu e os Departamentos de Bibliotecas assumiram a atribuição de supervisionar a implantação e funcionamento das Bibliotecas dos Centros Educacionais Unificados, instituindo-se a Coordenação Geral das Bibliotecas dos CEUs. Eram dezessete novas bibliotecas de caráter híbrido – públicas e escolares. A responsabilidade pelo projeto foi dividida entre as Secretarias Municipais de Educação e de Cultura, no entanto, em 2005, o acordo intersecretarial se extingue e as bibliotecas dos CEUs passam a ser geridas exclusivamente pela Secretaria Municipal de Educação.
Sob a gestão de Carlos Augusto Calil, o decreto nº 46.434 de 6, de outubro de 2005, criou o Sistema Municipal de Bibliotecas, reunindo as bibliotecas Mário de Andrade, Monteiro Lobato, bibliotecas do Centro Cultural São Paulo, bibliotecas dos CEUs, bibliotecas de bairro e temáticas (BIJ e BP). A unificação dos Departamentos das Bibliotecas Públicas e de Bibliotecas Infantojuvenis foi então concretizada e passaram a compor a Coordenadoria do Sistema Municipal de Bibliotecas (CSMB).
A Biblioteca Infantojuvenil Monteiro Lobato permaneceu em CSMB. Foram criadas ainda Bibliotecas Polos por região – equipamentos que funcionavam como coordenadorias para as bibliotecas: Álvares de Azevedo (norte); Biblioteca Pref. Prestes Maia (Sul); Cassiano Ricardo (Leste), Alceu Amoroso Lima (Oeste). Oito bibliotecas foram transformadas em temáticas, que além do seu acervo geral, receberam acervo especializado: Meio Ambiente (Raul Bopp), Cultura Popular (Belmonte), Arquitetura e Urbanismo (Pref. Prestes Maia), Cinema (Roberto Santos), Contos de Fadas (Hans Christian Andersen), Música (Cassiano Ricardo), Ciências (Mário Schenberg) e Teatro (Anne Frank).
Em 2006, a CSMB, em parceria com as subprefeituras, inova ao propor o projeto Pontos de Leitura, como alternativa à construção de bibliotecas, com o objetivo de atender regiões sem equipamentos culturais de leitura e informação.
Em 2007, a Biblioteca Anne Frank deixa de ser especializada em teatro, a Biblioteca Cassiano Ricardo deixa de ser polo e se torna temática em Música, e a Biblioteca Alceu Amoroso Lima temática em Poesia. A região leste subdivide-se em Polo Leste I (Adelpha Figueiredo) e Leste II (Cora Coralina). Nesse mesmo ano, as bibliotecas de bairro deixam de ser parcialmente subordinadas às subprefeituras e voltam à gerência plena de CSMB, com exceção das Bibliotecas Cecilia Meireles e Zalina Rolim, geridas pelas supervisões de cultura de suas respectivas subprefeituras.
O sistema de gerenciamento dos acervos das bibliotecas da Secretaria Municipal de Cultura, Dobis Libis, passou por diversas fases até a versão 3.2, onde dezesseis bibliotecas possuíam terminais para consulta com 1.500.000 registros cadastrados. Para que o sistema fosse disponível via Web, foram criados grupos de trabalho para resolver problemas de migração, interface, comunicação e outras decisões. Porém, no decorrer dessa década o sistema Dobis Libis foi substituído pelo sistema Alexandria, que em trabalho conjunto com funcionários, acabou por integrar e automatizar todo o acervo das bibliotecas do Sistema Municipal. Esse sistema possibilitou, entre outras funções, a pesquisa ao Catálogo Online a partir de qualquer dispositivo com acesso à Internet.
