A Biblioteca teve origem a partir da sessão da Congregação da Faculdade de Medicina da UFMG. Em 1º de março de 1912, o professor Antônio Aleixo discorreu sobre a sua necessidade e propôs que fosse iniciada sua organização. Pouco se sabe sobre a história da Biblioteca nessa primeira fase.

Em 1926 aconteceu sua reorganização, realizada pelo Professor José Baeta Vianna na administração do Professor Hugo F. Werneck. Em 27 de março a Congregação criou uma taxa especial aplicável a todos os alunos, professores e auxiliares de ensino, destinada à manutenção e reorganização da biblioteca. De 1927 a 1935 a biblioteca esteve localizada em duas salas do andar térreo da Faculdade.

Em 1935 foi construído um prédio especialmente destinado à Biblioteca em terreno próximo da Faculdade. Constituída inicialmente de um único andar, dispunha de instalações destinadas a: leitura geral, com 14 mesas e acomodações para 56 usuários; estudo, com cabines para uso individual; estudo, consulta e leitura reservada aos professores e assistentes; administração, com balcão de empréstimos, estante de livros, secretaria; e sanitários.

Era administrada pelo Prof. J. Baeta Vianna, auxiliado pelo funcionário Joaquim Cancio. Posteriormente, ingressaram as auxiliares Maria do Carmo Magalhães Gomes, Helena Lessa e a bibliotecária Nair Marques Lisboa, entre outras.

Já nessa época a Biblioteca merecia louvores por sua organização técnica e por participar e colaborar em serviços de divulgação bibliográfica. A Biblioteca participava do “Serviço de Divulgação Bibliográfica da Reitoria da Universidade de São Paulo”, que elaborava o “Catálogo Geral de Periódicos Científicos” existente nas principais bibliotecas brasileiras. Esse serviço foi o precursor da “Comutação Bibliográfica” e tinha como objetivo “pôr ao alcance de todos os estudiosos, por meio de microfilmes, cópias fotostáticas ou mesmo cópias datilografadas, o acervo bibliográfico existente no país”.

Em 1950 o acervo da Biblioteca era constituído por 4.615 livros, 4.200 teses e separatas de revistas. 6.525 volumes encadernados de revistas de 298 títulos correntes assinados, sendo: nacionais, 70; sul-americanas, 51; inglesas, 48; francesas, 46; norte-americanas, 83. A biblioteca era considerada das principais possuidoras de coleções completas das melhores revistas médicas do mundo.

Em 1959, foi apresentado pela bibliotecária Ruth Versiani Tavares projeto de ampliação e reorganização da biblioteca, o qual foi aprovado pelo então diretor da Faculdade de Medicina, o Prof. Oscar Versiani Caldeira, e pela Congregação. Iniciou-se, assim a construção da biblioteca, utilizando recursos financeiros da Fundação Rockfeller, por meio de auxílio do Prof. Dr. Robert Brigg Watson.

A construção do novo prédio foi dividida em duas etapas. A primeira foi realizada com a construção do bloco dos fundos, o qual era constituído de três andares. A segunda etapa, por sua vez, constituiu na demolição do antigo prédio e na construção do bloco da frente composto por dois andares, com capacidade para abrigar 100.000 volumes e 800 leitores.

Em 9 de dezembro de 1966 inauguram-se as novas instalações, quando foi denominada Biblioteca J. Baeta Vianna, uma justa homenagem ao seu idealizador.

Em 1970, com o auxílio técnico e financeiro da Biblioteca Regional de Medicina (BIREME) da Organização Pan-Americana de Saúde, foi criado um Sub-Centro da BIREME na Biblioteca com o objetivo de fortalecer a rede regional de informação médica.

Em 1974, instala-se o sistema MEDLINE (PubMed), uma das referências mundiais de informação médica e demais áreas das Ciências da Saúde. Já nessa época, podiam-se realizar pesquisas bibliográficas automatizadas, com o auxílio de uma bibliotecária, utilizando um terminal de computador conectado ao Instituto de Energia Atômica de São Paulo por via telefônica.

Em 1987 a Biblioteca iniciou o processo de automatização de seus serviços. Foi implantado o software MicroISIS e aplicativos desenvolvidos pela BIREME. A Biblioteca foi a pioneira no Brasil a implantar serviços de descrição bibliográfica do acervo; realização de empréstimo, devolução e reserva utilizando código de barras para identificação das obras; elaboração de relatórios e estatísticas.

Em 1992, em parceria com a Escola de Enfermagem da UFMG implantou-se o projeto Base de Dados em Enfermagem (BDENF) com a indexação de material bibliográfico convencional e não convencional em enfermagem, objetivando o controle bibliográfico nacional e a disseminação da informação em enfermagem. Foi constituída a Rede Sub-Rede Brasileira de Informação do Sistema BIREME/OPAS/OMS.

Em 2004 a Biblioteca passou por reformas físicas no primeiro andar, tendo em vista a instalação de um novo setor de Empréstimo, já utilizando o software Pergamum, adotando as novas diretrizes do Sistema de Bibliotecas da UFMG.

Com o propósito de atender as demandas da comunidade acadêmica e do público externo, a biblioteca tem buscado se adequar aos novos tempos. Para tanto, tem buscado alternativas para melhorar sua estrutura e os serviços oferecidos, com especial atenção àqueles demandados de forma on-line. No ano de 2024 os espaços de estudo e o laboratório de informática foram reestruturados, com instalação de climatização adequada e novas tomadas, a fim de oferecer condições favoráveis ao estudo e pesquisa.