Nasceu na fazenda Caiçara, no sopé da Serra de Araripe, na zona rural de Exu, sertão de Pernambuco. O lugar seria revivido anos mais tarde em "Pé de Serra", uma de suas primeiras composições. Seu pai, Januário, trabalhava na roça, num latifúndio, e nas horas vagas tocava acordeão (também consertava o instrumento). Foi com ele que Luiz Gonzaga aprendeu a tocá-lo. Não era nem adolescente ainda, quando passou a se apresentar em bailes, forrós e feiras, de início acompanhando seu pai. Autêntico representante da cultura nordestina, manteve-se fiel às suas origens mesmo seguindo carreira musical no sul do Brasil.
