Grįžęs iš tremties 1967 m. baigė Kauno politechnikumą. 1961-1965 m. buvo Šiaulių statybinių medžiagų kombinato šaltkalvis, 1965-1970 m. - „Žalgirio“ draugijos instruktorius, 1970-1994 m. Kauno „Pergalės“ gamyklos šaltkalvis. Treniruotis pradėjo 1957 m. grįžęs į Lietuvą. Treneriai - Vaclovas Peleckis ir Algirdas Šocikas.
Atstovavo Šiauliams ir Kauno „Žalgiriui“. Ringe kovėsi 230 kartų, laimėjo 203 kovas. Lietuvos vyrų bokso 6 kartus (1963, 1964, 1966, 1967, 1969 ir 1970), Baltijos valstybių (1962, Talinas) čempionas, SSRS čempionatų 2 kartus sidabro (1965 ir 1968) ir bronzos (1966), XIX olimpinių žaidynių (1968, Meksikas) sidabro medalių laimėtojas. 2004 metais apdovanotas LTOK Olimpine žvaigžde.
Skambiausia J. Čepulio karjeros pergalė – 1968 metų Meksiko olimpiados
sidabras. Pirmoje kovoje lietuvis įveikė britą Williamą Wellsą,
ketvirtfinalį pranoko Berndą Andresą iš tuometės Rytų Vokietijos,
pusfinalyje nukovė meksikietį Joaquiną Rochą. Visos kovos buvo nutrauktos anksčiau laiko, dėl aiškios lietuvio persvaros.
Finale J. Čepulis turėjo pripažinti amerikiečio George'o Foremano pranašumą. G. Foremanas tapo profesionalų bokso legenda – 1973 metais iškovojo pasaulio sunkaus svorio čempiono titulus. Vėliau pasaulio čempiono diržus iš G. Foremano paveržė bokso legenda Muhamedas Ali.
Velionis pašarvotas Kaune, Laidojimo namuose Žukausko g. 3 b. Lankymas - šeštadienį nuo 16 val. Laidotuvės - pirmadienį Petrašiūnų kapinėse. Karstas išnešamas 13 val.
Skaudžią netekties ir liūdesio valandą dėl legendinio boksininko Jono Čepulio mirties Lietuvos bokso federacija pareiškė užjautą velionio šeimai, artimiesiems ir Lietuvos sporto žmones.