Nel 1941 dopo il bombardamento nipponico di Pearl Harbor si arruola nel Corpo dei Marines. Qui partecipa alla battaglia delle isole Marshall. Partecipa anche alla guerra di Corea e al termine diventa pilota collaudatore, raggiungendo molti records di velocità (Progetto Bullett).
Negli anni cinquanta partecipa a numerose trasmissioni televisive, divenendo molto popolare presso il pubblico USA.
Nel 1960 viene arruolato tra i primi sette astronauti della NASA per il Programma Mercury.
Nel 1962 è il primo americano inviato in orbita nello spazio. Il tenente colonnello a bordo della navetta Friendship 7 compie tre orbite intorno alla Terra, eguagliando così Jurij Gagarin. Il suo rientro è costellato da numerosi problemi tecnici, e rischia di morire al rientro per un presunto problema allo scudo termico.
Seguendo la corrente politica dei Kennedy, viene eletto senatore dello Stato dell'Ohio, carica che ricopre fino agli anni novanta.
Ritorna nello spazio con lo Space Shuttle nel 1998 a bordo della missione STS-95, dove partecipa a studi sulla fisiologia dell'uomo in età avanzata e i suoi problemi nello spazio. Il volo è un successo.