Nino Ferrer ato da padre italiano, un ingegnere, e da madre francese, trascorse l'infanzia in Nuova Caledonia, dove suo padre era impiegato in una miniera di nichel. Nel 1939, mentre si trovava in Francia con sua madre, venne costretto dagli eventi bellici a tornare nel capoluogo ligure dove restò per tutto il periodo della guerra. Dopo il ritorno del padre, la famiglia si trasferì a Parigi nel 1947, dove Nino compì gli studi superiori e universitari nella prestigiosa Università della Sorbona, laureandosi in lettere e filosofia. Specializzatosi in etnologia, studiò a livello approfondito la vita quotidiana dell'uomo primigenio, con riferimento particolare ai culti religiosi, nel dipartimento di preistoria del Museo parigino de L'Homme; allievo di André Leroi-Gourhan, tenne per un lungo periodo numerose conferenze in Francia e Spagna.
Nel tempo libero recitò da dilettante nella Compagnia teatrale Stabile dell'Università della Sorbona, denominata Les Thèophiliens, per oltre dieci anni; si dimostrò inoltre un abilissimo disegnatore, iniziando già nel periodo adolescenziale a dipingere quadri, una passione che lo accompagna fino agli ultimi giorni. Espose in diverse mostre e personali. Ma è la musica che lo lanciò come protagonista assoluto. Iniziò verso la fine degli anni cinquanta come bassista jazz per Richard Bennett, Bill Coleman e Nancy Halloway, girando con il suo complesso tutti i locali notturni della capitale francese e incidendo una decina di 45 giri nel 1959 per una piccola etichetta.
Scoperto e affinato un suo timbro di voce del tutto particolare, dalle tonalità roche, fondò presto un suo gruppo di rhythm'n'blues e incide con loro un primo 33 giri che contiene già due suoi brani, destinati a diventare dei classici: Le port de salut e La polka des mandibules.
Come autore, iniziò nel 1965 a fornire suoi brani a diversi artisti francesi, importanti a livello internazionale. In Italia, suo paese natale, lo conoscono soltanto i musicofili più accaniti e anche i cinefili più attenti, poiché nel 1964 debuttò come attore cinematografico nel ruolo di Andersen in due film girati in Francia da Guy Lefranc e Raoul André ed imperniati sulle avventure dell'agente segreto Jeff Gordon, impersonato da Eddie Constantine, intitolati Laissez tirer les tireurs e Ces dames s'en melent e distribuiti in Italia con i titoli Lasciate sparare... chi ci sa fare e Jeff Gordon spaccatutto. I suoi ruoli più importanti nel cinema arriveranno comunque più tardi: in Un éte sauvage (L'età selvaggia) di Marcel Camus del 1970, interpreta Serge, e nel 1982 impersona il medico Steve Julien nel film Liten diretto da Jean-Pierre Mocky, mai distribuito in Italia.
Dal 1967 al 1969 le cose cambiano e Ferrer inizia a sfornare successi a 45 giri con un ritmo impressionante: accanto a motivi facili come il tango di Agata - il suo successo più grande, che arriva ai primi posti delle classifiche - Donna Rosa - scritta da Pippo Baudo, che diventa anche un film al quale però il cantante non partecipa - e Al telefono, ne spiccano altri in cui in un testo apparentemente banale si accennano temi importanti. La pelle nera, nella memoria di tutti per il celebre ritornello che all'epoca suscitò scalpore, affronta il tema del razzismo; Il re d'Inghilterra (Festival di Sanremo 1968), è una sorta di pamphlet contro tutte le guerre;
infine Viva la campagna è un inno assai scanzonato a favore della vita all'aria aperta contro lo stress cittadino. Il biennio 1968-1969 è d'oro per il cantante italo-francese; viene invitato a due popolari trasmissioni televisive italiane, Settevoci con Pippo Baudo e Io, Agata e tu con Raffaella Carrà. Nel 1970, però, forse stanco e un po' irritato del colossale successo piombato improvvisamente, arriva un brusco cambiamento di rotta, anche per via dell'insuccesso del Festival di Sanremo di quell'anno, dove presentò, insieme a Caterina Caselli la canzone Re di Cuori, la quale però ebbe uno scarso successo.
Ferrer rientra a Parigi nel 1970, allontanandosi volontariamente dal music business, continuando a dipingere e incidere una decina di 33 giri, tra il 1970 e il 1993, in cui fa praticamente tutto: produttore, cantante, musicista, occupandosi persino della registrazione e del missaggio. Lavori per un pubblico che lo ha sempre seguito in cui ritorna alle basi jazzistiche da lui sempre gradite e nel quale sforna almeno altri due successi oltralpe, Le sud (1975), considerato da molti il suo capolavoro, e La Carmencita (1980
Nel 1977 abbandona anche la capitale francese e si stabilisce nella sua tenuta di Quercy Blanc, nei pressi di Montcuq, dove rimane per il resto della vita. Nel 1978 si sposa con Jacqueline Monestier, detta Kinou, ed ha con lei due figli: Pierre ed Arthur. Viene nominato Cavaliere delle Arti e delle Lettere nel 1986, e ottiene la cittadinanza francese nel 1989. Artista poliedrico, dai mille interessi, adorato dal pubblico francese che vede in lui un musicista di culto, in Italia fa rientro alla fine degli anni ottanta per registrare molti suoi vecchi successi con nuovi arrangiamenti in un disco emblematicamente intitolato Che fine ha fatto Nino Ferrer. Evita sempre qualsiasi apparizione in trasmissioni revival tranne verso la metà degli anni novanta, quando Red Ronnie, suo grande estimatore, lo vuole ospite alla trasmissione Roxy Bar. Questa sarà l'ultima sua apparizione pubblica in una televisione italiana.
La sua arte viene omaggiata da diversi registi importanti: Pedro Almodovar utilizza una sua canzone nel film Tacchi a spillo, mentre dopo la sua morte Bernardo Bertolucci, inserisce nella colonna sonora del film Dreamers - I sognatori (2003) il brano C'est irreparable.
Tipo schivo e riservato, trascorre gli ultimi anni nella sua prediletta campagna francese. Qualche giorno dopo la morte della madre, che viveva insieme a lui, pone fine alla sua vita in modo drammatico, ad appena 64 anni in una torrida antivigilia di Ferragosto (suo compleanno), sparandosi un colpo di fucile da caccia.