ATP-haastajaturnauksista ATP-kiertueelle
Tammikuussa 2000 Nieminen solmi vuoden mittaisen yhteistyösopimuksen ITF:n junioritiimiä valmentavan Jacques Hervet'n kanssa. Vuoden aikana hän kierteli ITF Futures- ja ATP Challenger -turnauksia. Heinäkuussa Tampere Openissa hän voitti nelinpelin Ville Liukon kanssa ja selviytyi kaksinpelissä välieriin. Marraskuussa 2000 Nieminen pääsi lucky loserina uransa ensimmäiseen ATP-kaksinpeliturnaukseen Tukholman avoimiin, mutta hävisi avauskierroksella Jonas Björkmanille.
Helmikuussa 2001 hän voitti ensimmäisen ATP-haastajaturnauksensa Wolfsburgissa. Hän voitti vielä saman vuoden aikana Tampereen, Cordoban ja Maian ATP-haastajaturnaukset. Uransa toiseen ATP-turnaukseen, Tukholman avoimiin Nieminen pääsi karsintojen kautta. Turnauksen puolivälierissä hän voitti silloisen maailmanlistan 18:nneksi sijoitetun ja Ruotsin ykköspelaajan Thomas Johanssonin. Välierissä hän päihitti silloisen maailmanlistan 20:nneksi sijoitetun, moniin helppoihin virheisiin sortuneen Thomas Enqvistin. Loppuottelussa pitkän peliviikon väsyttämä ja ottelun aikana pakaransa reväyttänyt Nieminen hävisi viisieräisen kamppailun jälkeen Sjeng Schalkenille lukemin 6–3, 3–6, 3–6, 6–4, 3–6. Loppuottelupaikkansa ansiosta hän nousi ATP-maailmanlistalla sijalta 103 sijalle 69. Kauden päättyessä hän oli maailmanlistan sijalla 61.
Australian avoimissa 2002 Nieminen osallistui uransa ensimmäiseen Grand Slam -turnaukseen. Hän hävisi ensimmäisen kierroksen ottelunsa idolilleen Pete Samprasille. Huhtikuussa Estoril Openissa hän selviytyi loppuotteluun voittamalla puolivälierissä entisen maailmanlistan ykkösen Marat Safinin ja välierissä Fernando Meligenin, mutta hävisi loppuottelun David Nalbandianille. Kolme viikkoa myöhemmin Mallorcan ATP-turnauksessa hän voitti puolivälierissä Dominik Hrbatýn ja välierissä Mariano Zabaletan, mutta hävisi loppuottelun Gastón Gaudiolle kuumeviruksen kangistamana. Turnauksen jälkeen Nieminen nousi ATP-maailmanlistalla sijalle 43, jolloin hänestä tuli kaikkien aikojen korkeimmalle sijoitettu suomalaispelaaja. Ranskan avoimissa 2002 hän voitti avauskierroksella Nicolás Lapentin ja toisella Amir Hadadin, mutta hävisi kolmannella kierroksella Tommy Haasille. Wimbledonissa Nieminen pääsi viimeiseksi sijoitetuksi pelaajaksi, mutta hävisi toisella kierroksella Julian Knowlelle. Heinäkuussa hän voitti Tampere Openin. Syyskuussa Suomi karsi pääsystä maailmanlohkoon maaottelussa Alankomaita vastaan. Nieminen hävisi ensimmäisen kaksinpelinsä Raemon Sluiterille ja nelinpelinsä Tuomas Ketolan kanssa Paul Haarhuisille ja Sjeng Schalkenille, eikä Niemisen kaksinpelivoitto Martin Verkerkistä riittänyt Suomelle voittoon. Marraskuussa hän voitti IPP Openin Helsingissä.
Jarkko Kalervo Nieminen on ammattilaisuransa lopettanut suomalainen tennispelaaja. Nieminen sijoittui parhaimmillaan ATP-maailmanlistalla kaksinpelissä sijalle 13 heinäkuussa 2006 ja nelinpelissä sijalle 42 tammikuussa 2008.