A magyar szövetség (MRSZ) honlapjának keddi gyászjelentése felidézi, hogy Oláh játékosként 1976 és 1989 között a Csepel SC színeiben érte el sikereit. Visszavonulása után, 1993 és 2000 között vezetőedzőként tevékenykedett a Csepelnél, amellyel 1995-ben az élvonalban és a Magyar Kupában is ezüstérmet szerzett.
A magyar férfiválogatott legutóbb 2001-ben jutott ki az Európa-bajnokságra, a sikerből Oláh János - Demeter Györgyhöz hasonlóan - Nyári Sándor szövetségi kapitány másodedzőjeként vette ki részét.
Később a Nyíregyháza és a MALÉV férfi, illetve a Veszprém, a Kaposvár és a Budai XI SE női együttesénél is dolgozott. Eközben az MRSZ munkatársaként és televíziós szakkommentátorként is tevékenykedett.
Oláh János 2008 novemberében érkezett a Veszprémi Egyetemi SC női röplabdacsapatához, amelyet három idényen keresztül irányított. Az egyesület legsikeresebb időszaka köthető a szakember nevéhez.
