Inizia molto giovane e muove i primi passi come artista nell’ambito della musica sacra nera.
Ascolta spirituals, gospel e blues, ma soprattutto segue Duke Ellinngton che eserciterà su di lui una profonda influenza e che sarà sempre da esempio per le sue composizioni.
Meticcio, soffre moltissimo gli atteggiamenti di razzismo nei suoi confronti sia da parte dei bianchi che da parte dei neri, diventa la sua ossessione, vuole primeggiare ad ogni costo, si mette a studiare in modo forsennato.
Dopo il contrabasso, di cui diventa un autentico virtuoso, inizia a studiare pianoforte e diventa anche uno stupendo pianista.
Negli anni 40 suona con band importanti e collabora con artisti del calibro di Louis Armstrong e Dinah Washington.
Nel 1947 entra nell'orchestra di Lionel Hampton ma è già leader di propri gruppi ed ha già fatto le sue prime composizioni.
Forma un trio con Red Norvo al vibrafono e Tal Farlow alla chitarra e suona un cool bop da camera molto particolare.
Nel 1952 fonda insieme a Max Roach la Debut Records, etichetta indipendente dall'esistenza difficile che ha come obiettivo la diffusione del classic jazz.
Nel 55 registra con la sua etichetta il famoso album Mingus at the Bohemia in collaborazione con lo stesso Roach, mentre nel 1956 esce Pithecanthropus Erectus, prezioso lavoro dove riesce a coniugare il jazz vecchia scuola con l'ormai dilagante free jazz.
E proprio con Dolphy nasce una perfetta sintonia, le loro differenti ed estreme personalità artistiche diventano complementari, due artisti vulcanici e virtuosi, difficili e dotati di una tecnica straordinaria, hanno dato alla luce album destinati a scrivere la storia del jazz come Charles Mingus Presents Charles Mingus del 1960 e The Great Concert of Charles Mingus del 1964.
Nel 1963 registra il suo capolavoro The Black Saint and the Sinner Lady.
Per l'occasione raduna un sestetto formidabile, anche se forse non perfettamente amalgamato: alla sezione ritmica,oltre a Mingus, Richmond e Byard, ai fiati Dolphy, al sassofono tenore Clifford Jordan e alla tromba Johnny Coles.
I concerti sono documentati dal famoso triplo album The Great Concert of Charles Mingus, di cui abbiamo già parlato.
Quando la band fa ritorno negli USA, Dolphy non è con loro, rimane e forma un suo gruppo con il pianista Misha Mengelberg, il bassista Jacques Schols e il batterista Han Bennink .
Il 28 giugno del 1964 Dolphy massacrato dall'uso dell'eroina viene colto da un attacco di iperglicemia diabetica a Berlino, cade in coma e il giorno dopo muore. Una settimana prima aveva compiuto 36 anni.
Il problema più grave diventa però la sua instabilità psichica e l'abuso di psicofarmaci che lo riducono in uno stato di perenne incoscienza.
Nel 1971 pubblica la sua biografia, Peggio di un Bastardo e pubblica un nuovo ottimo album Let My Children Hear Music.
Nel 1977 gli viene diagnosticato il morbo di Lou Gehrig,una grave forma di sclerosi.
Inizia a lavorare con Joni Mitchell, gli affida alcune sue composizioni perchè lei ne scriva i testi, ma non riesce a vederne la conclusione, muore nel 1979 per un infarto e le sue ceneri vengono sparse sul Gange.
L'ultimo suo album Mingus verrà pubblicato postumo dalla Mitchell.