O território do município, desmembrado de Arcos, teve seu reconhecimento nos primórdios do século XIX por bandeirantes. Segundo moradores antigos, seus antepassados afirmavam que a povoação, teria sido fundada por dois negros domadores de cavalos, tendo um deles o nome de Simão. Depois chegaram as famílias Fernandes Pereira, Lopes, Jacinto e outras, que completaram a constituição do povoado com a denominação de São Simão.

Conquistar o território tornou-se uma tarefa normal porque a fertilidade das terras levara seus moradores e aqueles que iam chegando, a formarem vasta áreas de lavouras. As culturas de arroz, milho, feijão e cana de açúcar eram incentivadas e se constituíam na maior fonte de riqueza, mais tarde, apoiadas pela exploração pecuária.

A família Fernandes Pereira fez doação das terras para formação do patrimônio municipal, definido a área ser ocupado pelo núcleo. A primeira escola foi construída em terreno doado pela família Jacinto. O povoado era elevado a distrito, em 1953, com o nome de Japaraíba.

O topônimo originou-se de seu desmembramento do município de Arcos, donde, 'Japa' = a arco + 'ibia' = pau, isto é 'Pau de Arco' (filha de Arcos).

Fonte: cidades.ibge.gov.br/brasil/mg/japaraiba/histórico