Herbert Brough Falcon Marshall nasce a Londra il 23 maggio 1890, si avvicina a l teatro prima lavorando dietro le quinte per poi debuttare nel 1911. La Grande Guerra blocca quella che era una carriera in ascesa e Marshall riporta una ferita molto seria a una gamba che gli viene amputata costringendolo ad usare per tutta la vita una protesi di legno. Nonostante l'handicap Herbert Marshall riprende il ruolo di attore e continua a calcare le scene londinesi e a diventare una star del cinema anche se in alcune scene (ad esempio sulle scale) aveva bisogno di una controfigura.
Il debutto sul grande schermo avviene nel 1927: Mumsie di Herbert Wilcox è l'unico film muto a cui partecipa. Nel 1930 è il protagonista del film di Hitchcock Omicidio!.
Si trasferisce a Hollywood l'anno seguente per raggiungere la moglie, l'attrice Edna Best con cui fa coppia nei suoi primi film americani. Nel 1932 interpreta il marito di Marlene Dietrich in Venere Bionda di Josef von Sternberg: nella pellicola suo rivale è Cary Grant a cui Marshall, sempre nel 1932, viene preferito da Lubitsch per interpretare Gaston Monescu, il ladro gentiluomo di Mancia compentente, il film che gli darà la notorietà e per tutti gli anni '30 l'attore sarà protagonista di numerose commedie tra cui ricordiamo Sarò tua del 1935 accanto a Jean Arthur per la regia di William A. Seiter.
Con Ernst Lubitsch e Marlene Dietrich (sempre nei panni del marito tradito) tornerà a lavorare nel 1936 in Angelo.
Nel 1934 interpreta Walter Fane nella versione de Il Velo Dipinto che ha per protagonista Greta Garbo. Il film, diretto da Richard Boleslawsky, è tratto da un romanzo di William Somerset Maugham e l'aplomb tipicamente britannico di Herbert Marshall lo renderà più volte il perfetto protagonista delle trame scritte dall'autore inglese: La lettera è il secondo film che l'attore gira nel 1929 nei panni dell'amante di Leslie Crosbie, nel 1940 girerà il remake diretto da William Wyler con Bette Davis, Ombre malesi ma nei panni del marito della donna.
Nel 1942 è coprotagonista de La Luna e i sei soldi di Albert Lewin, film ispirato alla vicenda di Gauguin che s'adombra nel personaggio di Charles Strickland interpretato da George Sanders. Per finire nel 1947 ne Il filo del Rasoio Marshall interpreterà lo scrittore stesso nella trasposizione cinematografica del suo romanzo che ha per protagonista Tyrone Power.
Nel 1940 torna a lavorare con Hitchcock ne Il prigioniero di Amsterdam ed interpreta la spia nazista Stephen Fisher: da amabile seduttore o marito defilato, Marshall comincia a rivelarsi perfetto anche per i ruoli dell'insospettabile cattivo/omicida come ne La Muraglia delle tenebre del 1947 per la regia di Curtis Bernhardt.
Nel 1941 è ancora il marito di Bette Davis in Piccole volpi, magnifico melodramma sull'avidità tratto dalla piece di Lillian Hellman e diretto da William Wyler.
Nel 1945 nell'adorabile Il villino incantato di John Cromwell è il pianista cieco che favorisce la nascita dell'amore tra un soldato sfigurato e una ragazza insignificante: l'amore trasfigurerà i due rendendoli bellissimi.
Nel 1946 è nel cast del magnifico Duello al sole di King Vidor nel ruolo del padre di Perla Suarez, Jennifer Jones contesa dai due fratelli McCanles.
Ancora il ruolo di un padre, quello della pericolossima Angel Face Diane Tremayne in Seduzione mortale, capolavoro di Otto Preminger (1952).
Superati i sessant'anni l'attore si presta alla televisione per giochi a premi e apparizioni in serie tv limitando l'attività sul grande schermo anche a semplici camei però incisivi come in Merletto di Mezzanotte o a ruoli secondari come quello dell'Ispettore Charas ne L'esperimento del dottor K, (The fly) film più noto nel remake del 1986 diretto da Cronenberg, La mosca.
Il suo ultimo film è Il terzo giorno del 1965.