José Mauro nasceu de família nordestina, que havia migrado para o Rio de Janeiro. Os pais tinham tão poucos recursos que ele, ainda criança, teve de se transferir para o Rio Grande do Norte, onde foi criado pelos tios em Natal. Ingressando na Faculdade de Medicina da capital potiguar, abandonou o curso no segundo ano, retornando ao Rio de Janeiro a fim de conseguir melhores oportunidades. Ali, trabalhou como carregador de bananas[2] em uma fazenda do litoral do estado, instrutor de boxe, e há rumores de que teria se prostituído. Há uma estátua sua, do escultor Bruno Giorgi, no Monumento à Juventude, na antiga sede do Ministério da Educação.[2]
Em São Paulo, foi garçom de boate. Obteve uma bolsa de estudos na Espanha, mas não suportou a vida acadêmica.[3] Abandonou os estudos depois de uma semana, preferindo correr a Europa. A atividade mais importante que exerceu foi junto aos irmãos Villas-Bôas[4] pelos rios da região do Araguaia, conhecendo o ambiente inóspito e lutando pelos povos indígenas.[5]
Quando cresceu e se tornou adulto, lançou o seu primeiro livro, o romance Banana Brava, de 1942, onde reflete o mundo dos homens do garimpo.[6] Mas a obra não alcançou bons resultados na época, apesar de algumas críticas favoráveis. Rosinha, Minha Canoa, de 1962, marca seu primeiro sucesso. No livro Meu Pé de Laranja Lima, de 1968, seu maior sucesso editorial, serve-se de sua experiência pessoal para retratar o choque sofrido na infância com as bruscas mudanças da vida.