
Giovanni era romano, figlio di Proietto, e sacerdote della basilica di San Clemente, dove un marmo scolpito reca ancora il suo nome. Fu eletto dopo una sede vacante di oltre due mesi segnata dalla simonia.
Sembra essere stato il primo papa ad assumere un nuovo nome al momento dell'elezione; era stato conosciuto come Mercurio. Durante il suo pontificato il decreto contro la compravendita dei voti nelle elezioni papali fu confermato ed esposto in San Pietro. Mantenne buoni rapporti sia con il re goto Atalarico sia con l'imperatore Giustiniano.