Calviño nació en Noyon el 10 de julio de 1509. Recibió enseñanza formal para el sacerdocio en el Collège de la Marche y en el Collège de Montaigue, dependientes de la Universidad de París. Alentado por su padre a dedicarse al Derecho en lugar de a la Teología, Calviño ingresó también en las universidades de Orléans y Bourgues. Junto a varios amigos empezó a interesarse por los movimientos humanístico y reformista, y emprendió estudios sobre la Biblia griega.

En 1532 publicó un comentario sobre el De Clementia de Séneca, poniendo de manifiesto su preparación como erudito humanista. Su asociación con Cop, que acababa de ser elegido rector de la Universidad de París, obligó a ambos a huir cuando Cop anunció su apoyo en 1535 a Martin Lutero. Aunque pocas veces se refirió a este tema, Calvino estuvo sometido a una experiencia religiosa personal más o menos por esta época.

Durante los dos años siguientes Calvino viajó con frecuencia, evitando las autoridades eclesiásticas mientras estudiaba, escribía y disertaba a partir de la Biblia y la tradición cristiana los principios básicos de su teología. En 1536 publicó la primera edición de su Christianae Religionis Institutio, un conciso y provocativo trabajo que le situó en la vanguardia del protestantismo como pensador y predicador. Durante el mismo año Calvino visitó Ginebra camino de Estrasburgo y fue invitado por Guillaume Farel a participar en el movimiento reformista de la ciudad.

Calvino permaneció en Ginebra con Farel hasta 1538, cuando la ciudad votó contra Farel y los dos fueron invitados a marcharse. Calvino concluyó su interrumpido viaje a Estrasburgo y participó en la vida religiosa de esa comunidad hasta septiembre de 1541. Durante su estancia en Estrasburgo, Calvino se casó con Idelette de Bure, que era viuda. El matrimonio tuvo un hijo, que murió en la infancia. En Estrasburgo Calvino publicó además el primero de sus numerosos comentarios sobre los libros de la Biblia.

En 1541 los ginebrinos convencieron a Calvino para que regresara y les dirigiera de nuevo en la reforma de la Iglesia. Permaneció en esa ciudad el resto de su vida, excepto los breves viajes en defensa de la reforma de la Iglesia. Su esposa murió en 1549, y no se volvió a casar. Aunque recibió casa y salario del Gobierno, no tuvo cargo oficial y no se hizo ciudadano de Ginebra hasta 1559. Hasta la derrota de la familia Perrin en 1555 hubo una importante oposición al liderazgo de Calvino en la ciudad.

Calvino redactó el borrador de las nuevas ordenanzas que el Gobierno modificaría y adaptaría como constitución de Ginebra, regulando a la vez temas sagrados y profanos. Calvino apoyó también el establecimiento de un sistema de escuelas municipales para todos los niños, con una academia en Ginebra como centro de formación para los estudiantes más adelantados. En 1559 inauguró la academia, con Theodore Beza como rector, que muy pronto se convertiría en una verdadera universidad.

Mientras Calvino estuvo al servicio de Ginebra, la ciudad se vio amenazada con frecuencia por los ejércitos católicos a las órdenes de Emanuel Philibert, duque de Saboya, y de otros jefes. En realidad la ciudad era una fortaleza amurallada y recibía alguna ayuda de las granjas de los alrededores y de los aliados próximos. Por este motivo, la amenaza de conquista contribuyó a que la vida fuese muy severa en Ginebra y a su necesidad de comercio. Los cristianos disidentes eran expulsados a menudo de la ciudad, y se llegó a ejecutar a un individuo por hereje.

Hombre de su tiempo, Calvino aprobó la condena a la hoguera de Miguel Servet (aunque él recomendara la decapitación) cuando el científico católico y unitario fue capturado en la ciudad. Además de sus convicciones religiosas, el factor determinante en la ejecución de Servet fueron sus estudios sobre la circulación de la sangre de los hombres, teorías que Calvino reprobaba.

Calvino se propuso mejorar la vida de los habitantes de la ciudad de muchas formas. Defendió la creación de hospitales, alcantarillado, barandillas protectoras en los pisos altos para evitar que los niños se cayeran, atención especial para los pobres y los enfermos y la introducción de nuevas industrias. Promocionó el uso del francés en las iglesias, y contribuyó de forma muy personal a su formación como lengua moderna con sus escritos en lengua vernácula.

Sin embargo los escritos de Calvino han resultado ser su contribución más duradera a su Iglesia. Compuso himnos y animó a otros a hacerlo. El famoso salterio ginebrino, compuesto en su mayor parte por su colega Louis Bourgeois, se convirtió en el modelo de muchos himnos protestantes. Compuso un influyente catecismo, cientos de cartas a compañeros reformistas, y comentarios sobre casi todos los libros de la Biblia. Se recopilaron además sus escritos y sermones.

Calvino nunca gozó de buena salud; sufría asma crónica y catarro. Estuvo muy delicado a causa del violento ataque de fiebre cuartana en 1558. Murió el 27 de mayo de 1564 y fue enterrado en una sepultura anónima en Ginebra.