A colonização de São José da Tapera foi iniciada em 1900, na fazenda existente no local onde hoje situa a cidade. Era uma propriedade agrícola pertencente à família Maciano. Próximo à fazenda, residia Antônio Francisco Alves, conhecido como Antônio Marruá.
Anos depois, procedente de Pão de Açúcar, chegou à região Afonso Soares Vieira, instalando ali uma casa de comércio. Tempo depois, foi criada uma feira de grande aceitação pelos moradores das vizinhanças.
A iniciativa fez com que a presença de agricultores de outros município conhecessem a fertilidade das terras locais, incentivando-os a instalar propriedades no novo núcleo que ali se formava. Começaram, então a proliferar casas de taipa (taperas). Em seguida, foi construída uma capela dedicada a São José. Aproveitaram a existência das edificações simples, batizando o local com o nome de São José da tapera.
Foi elevado à categoria de município com a denominação de São José da Tapera, pela lei estadual nº 2084, de 24-12-1957, desmembrado de Pão de Açúcar. Sede no antigo distrito de São José da Tapera. Constituído do distrito sede. Instalado em 01-01-1959.
