Po diplomi na berkeleyjski podružnici Univerze v Kaliforniji leta 1941 je Nelson podpisal pogodbo s studiem MGM, potem ko ga je odkril lovec na talente. Leta 1942 se je kot "hišni igralec" pojavil v številnih filmih, kot so Shadow of the Thin Man, Johnny Eager in Dr. Kildare's Victory. Dobil je tudi glavno vlogo v filmu A Yank on the Burma Road, v katerem je igral taksista, ki se odloči voditi konvoj tovornjakov za kitajsko vlado.

Nelson se je med 2. svetovno vojno pridružil vojski in z drugimi igralci po vojaških postojankah nastopal z vojno dramo Winged Victory, ki so jo pozneje predelali v film z Redom Buttonsom, Georgeom Reevesom in Nelsonom v glavnih vlogah. Po vojni pa je Nelson igral v filmih, kot so Undercover Maisie, Time to Kill in Tenth Avenue Angel.

Prvi (TV-)film o Bondu že leta 1954
Če ste se kdaj vprašali, kdo je bil prvi igralec, ki je igral Jamesa Bonda, ste z odgovorom Sean Connery ustrelili v prazno. No, vsaj delno. Britanskega agenta je kar nekaj let pred filmom Dr. No s Seanom Conneryjem v glavni vlogi, ki je prišel na platna leta 1962, leta 1954 v enourni TV-priredbi Casino Royale igral prav Nelson. V 60. in 70. letih se je posvetil odru, na Broadwayu je nastopil v predstavah Seascape, Mary, Mary in Cactus Flower. Leta 1978 je bil za vlogo v igri The Act z Lizo Minnelli nominiran za nagrado tony.

V zadnjem času je Nelson s svojo drugo ženo, s katero se je poročil leta 1992, veliko časa preživljal na potovanjih, umrl je prav na potovanju po Pensilvaniji. Nameraval je napisati nekaj knjig o svojih časih na odru in v Hollywoodu, a ga je smrt prehitela. Otrok ni imel.