Pelo Decreto-Lei 9.503, de março de 1946, passou a ser obrigatória a existência de um Colégio de Aplicação junto às faculdades de filosofia do país. O primeiro a funcionar  foi o Colégio de Aplicação da Faculdade Nacional de Filosofia da Universidade do Brasil, atual Universidade Federal do Rio de Janeiro, em 20 de maio de 1948.

Segundo informações existentes no livro de tombo encontrado na Biblioteca, data de 1° de setembro de 1958 o primeiro registro de livro, embora documentos administrativos da escola registrem o funcionamento da Biblioteca já em 1950.

Em função, principalmente, da ausência de um bibliotecário responsável (o ultimo funcionário que ocupou esse cargo se aposentou em 1989) e, por conseguinte, ausência de recursos para aquisição de material à biblioteca que permaneceu desativada por um longo período, foi desatualizando.

Com a retomada de suas atividades em fevereiro de 1993, a Biblioteca do Colégio de Aplicação passou por um processo de reformulação total que abrangeu não somente a parte física como também o acervo bibliográfico e serviços oferecidos.