Il est le sixième d'une famille unie de 13 enfants. Très débrouillard, il quitte ses parents à 17 ans pour voyager à travers le monde (Afghanistan, Inde, Alaska...) en auto-stop et survit grâce à divers petits boulots. Revenu aux Etats-Unis Jeff Fahey a le coup de foudre pour la danse lors d'un ballet et grâce à sa perséverance obtient une bourse d'étude. Il entre ensuite au ballet Joffret et se lance dans les comédie musicale. Jeff commence sa carrière au théatre et fait un passage à Broadway.

Il joue pour la première fois à la télé dans le rôle de Gary Corelly dans un sitcom appelé Une Vie pour Vivre, puis décroche son premier rôle principal en 1985 dans le rôle du bandit Tyree dans Silverado avec Rosanna Arquette, Kevin Costner et Danny Glover suivi d'une interprétation de marchand de pistolet dans la série avec Don Johnson.

Sa carrière se poursuit ensuite régulièrement et Jeff Fahey joue dans plusieurs films au cinéma comme: Chasseur Blanc et Coeur Noir avec Clint Eastwood , Le Cobaye avec Pierce Brosnan, ou encore Wyatt Earp avec Kevin Costner, Dennis Quaid et Gene Hackman

On l'a récemment vu au cinéma dans Planète Terreur, un Film Grindhouse où il retrouvait son collègue Naveen Andrews de la série Lost. Jeff y incarne Frank Lapidus, un pilote d'hélicoptère.