Le sue passioni adolescenziali, musica e aeronautica, lo accompagneranno per tutta la vita.
Si laurea in ingegneria aeronautica e nel tempo libero suona la zampogna con diversi complessi folk. Ma queste attività non lo distolgono dalla passione per la fotografia.
Josef Koudelka è il fotografo delle pianure dell'Est europeo, dei contadini affaccendati a lavorare la terra, dei gitani con l'inseparabile violino e con una moneta incastrata in un occhio per comprarsi il passaggio nell'aldilà una volta morti. Ma è anche il fotografo che meglio di tutti ha documentato la primavera di Praga nel 1968 (è grazie a lui che in Occidente sono arrivate le straordinarie immagini che ritraggono gli studenti armati di fiori di fronte ai carri armati sovietici nella città insorta) ed è il fotografo ufficiale del teatro praghese Za Branou e collaboratore della rivista teatrale Divalo.
Nel 1970 gli viene assegnato il Robert Capa Memorial Award.
In seguito a diverse esposizioni internazionali, dal 1971 inizia la sua collaborazione con l'agenzia fotografica Magnum e si trasferisce prima in Gran Bretagna e poi in Francia.
Immagini di Koudelka sono conservate al Victoria and Albert Museum di Londra, al Museum of Modern art di New York, al Philadelphia Museum of Art. Koudelka è riuscito a imporsi sulla scena internazionale grazie al suo stile molto pulito e alla capacità di raccontare la vita di strada.