Segundo a tradição, o desbravamento das terras do município de Bom Jardim, se deu entre 1770 e 1786, quando garimpeiros clandestinos, chefiados pelo bandoleiro português Manoel Henrique, o "Mão de Luva", lavraram os leitos dos córregos afluentes dos rios Macuco, Negro e Grande. Confirmando a viabilidade desta história, existe no município, no local onde as águas do rio São José se lançam no leito do rio Grande, cavernas naturais, conhecidas desde tempos remotos como "Furnas do Mão de Luva". Entretanto, datam do início do século XIX as notícias sobre as primeiras colônias agrícolas da região, formando um núcleo populacional na margem do rio São José, com o topônimo de São José do Ribeirão. Em 1857, o núcleo foi elevado à categoria de freguesia, começando logo a atrair um maior número de colonos não só nacionais, como portugueses, suíços, alemães e italianos.

A formação do povoado que tomou o nome de Bom Jardim, segundo a tradição, foi devido ao fato de se negarem os habitantes de São José do Ribeirão a consentir na passagem dos trilhos da Estrada de Ferro Cantagalo por suas terras, receosos de que as fagulhas das locomotivas viessem a danificar suas plantações. Devido ao progresso trazido pela estrada de ferro que a cortava, pouco a pouco, Bom Jardim, a nova localidade de Cantagalo, entrou em franca fase de prosperidade, suplantando a de São José do Ribeirão, pertencente ao município de Nova Friburgo.

Em 24 de março de 1891, já sob o regime republicano, com a criação do município de Cordeiro, por força do Decreto nº 180, Bom Jardim passou a constituir um dos seus distritos, sendo desmembrado de Cantagalo. A criação do município se deu em 1893, com o nome de Bom Jardim, sendo este topônimo modificado para Vergel, em 1943, a contragosto dos habitantes da cidade. A nomenclatura original de Bom Jardim foi restabelecida em 1947, por força das disposições transitórias da Constituição do Estado do Rio de Janeiro.