Inizia a suonare la tromba a 12 anni.
Nel 1935 entra prima nel gruppo di Frankie Fairfax e poi ha la sua prima registrazione nella band di Teddy Hill dove sostituisce Roy Eldrige.
Alla fine degli anni 30 suona con le orchestre di grandi del jazz come Cab Calloway, Jimmy Dorsey e Lionel Hampton, incontra Coleman Hawkins che lo indirizza verso uno stile più moderno.
Il Minton in quegli anni diventa una palestra dove iniziano a suonare artisti del calibro di Thelonius Monk, Bud Powell e Max Roach, e dove nasce e si sviluppa il nuovo jazz.
Nel 1943 è nell'orchestra di Earl Hines dove incontra Charlie Parker, Billy Eckstine e Sarah Vaughan.
L'anno dopo Eckstine forma la sua orchestra,lo raggiungono Dizzy e Parker, i loro tour fanno conoscere il beb bop fuori dei locali di New York.
I brani di Gillespie come Groovin' High, Woody n' You, Anthropology, Salt Peanuts e la celeberrima A Night in Tunisia furono per l'epoca rivoluzionarie, impervava lo swing dell'orchestre bianche, un jazz ballabile completamente diverso da quello che stava nascendo al Minton.
Il bebop era anche uno stile di vita e un nuovo modo di porsi per gli afro americani, i musicisti neri si stavano riappropriando del loro jazz, una musica che nata nei bordelli di New Orleans era sta trasformata dall'industria discografica dei bianchi in musica da ballo.
Il be bop era formato da piccoli gruppi normalmente di quattro persone, anche questo in contrasto con le grandi orchestre dello swing.
Non era facile per i boppisti,spesso il loro linguaggio non era capito o addirittura osteggiato e non era sempre facile trovare ingaggi e locali disposti a rischiare.
I neri alzavano la testa e riprendevano possesso della loro tradizione.
Il canto del cigno del vero bebop fù il concerto del 1953 di Charlie Mingus, Charlie Parker, Max Roach e Bud Powell, in uno dei più famosi live della storia del jazz.Gli subentra l'hard bop di Clifford Brown, ma anch'esso sarà di breve durata, il trombettista morirà nel 1956 a solo 26 anni in un incidente stradale.
Altra sua grande passione fu la musica caraibica e sudamericana, uno dei primi esperimenti, peraltro molto ben riusciti, di fusion fra jazz e ritmi afro cubani.
Brani famosi di questo genere sono Manteca e Tin Tin Deo.
Negli anni 50 iniziò ad adoperare la sua caratteristica tromba con la campana piegata verso l'alto e divenne famoso per la grandezza del rigonfiamento delle sue guance.
Il perchè della strana forma del suo strumento fu oggetto di molte dicerie, ma il vero motivo era semplice: una sera, dopo un concerto, la tromba cadendo si piegò.
La campana al contrario gli piacque e decise di non farla più riparare.
Negli ultimi anni rallenta molto la sua attività, insegna,forma una sua scuola.
Suona ancora soprattutto con i suoi allievi Arturo Sandoval e Jon Faddis.
Ha sempre seguito la fede Baha'ì (una religione nata in Iran a metà dell'800 che segue gli insegnamenti del fondatore Bahàu'llàh) e ne è stato uno dei più famosi adepti.