
Si Juan ay isang Romano, anak ni Projectus, at pari ng basilika ng San Clemente, kung saan ang inukit na marmol ay nagtataglay pa rin ng kanyang pangalan. Siya ay nahalal matapos ang mahigit dalawang buwang pagkabakante na tinatakan ng simonya.
Tila siya ang unang papa na kumuha ng bagong pangalan sa kanyang pagkahalal; siya ay dating kilala bilang Mercurius. Sa panahon ng kanyang pamumuno, ang dekreto laban sa pagbili ng mga boto sa mga halalan ng papa ay pinagtibay at inilagay sa San Pedro. Pinanatili niya ang mabuting ugnayan kapwa sa haring Godo na si Athalaric at sa Emperador Justiniano.