Anthony Zerbe est né à Long Beach en Californie, le fils de Catherine (née Scurlock) et d'Arthur LeVan Zerbe. Il est allé à l'école secondaire de Newport Harbor. Il a fréquenté le Pomona College de Claremont, en Californie, où il a obtenu son diplôme en 1958. Ses parents étaient également des anciens élèves du Pomona College. Il a servi dans l'armée de l'air des États-Unis de 1959 à 1961
Il a eu un rôle principal dans L'Équipée du Poney Express, et a joué dans Harry O dans la deuxième et dernière saison de cette série. Zerbe était également considéré comme Ponce Pilate dans la mini-série A.D. : Anno Domini et comme le général Grant dans la mini-série Nord et Sud. Il était également dans de nombreux épisodes de la mini-série Centennial, en 1978. Sa dernière apparition est dans le film de comédie/crime noir américain de 2013 American Bluff.
Zerbe est l'ancien directeur artistique de Reflections, A New Plays Festival au Geva Theatre de Rochester, New York, et a fait une tournée aux États-Unis, en 1981, avec Behind the Broken Words, une performance de poésie contemporaine, de comédie et d'œuvres dramatiques avec l'acteur collègue Roscoe Lee Browne.
En 1976, Zerbe a remporté un Emmy Award pour sa performance dans une série dramatique pour son rôle de lieutenant K.C. Trench dans la série de détective privé Harry O. En 1981, il a joué le frère aîné Benjamin Hubbard dans une reprise à Broadway de The Little Foxes.
1973 : Gunsmoke de John Meston et Norman Macdonnell, saison 18, épisode 23 "Talbot" : Talbot
1973 : Cannon d'Edward Hume, saison 2, épisode 22 "À cache-cache" (Catch Me If You Can) : Morris W. Talbot
1973 : Les Rues de San Francisco (The Sreets of San Francisco) d'Edward Hume, saison 2, épisode 9 "L'Or mortel" (The Twenty-Four Karat Plague) : Edward Whitney
1973 : Cannon d'Edward Hume, saison 3, épisode 10 "Une Histoire boîteuse" (The Limping Man) : Max Dolney
1974 : Le Magicien (The Magician) de Jack Arnold et Bill Bixby, saison unique, épisode 13 "La Femme d'acier" (The Illusion of the Stainless Steel Lady) : Brad Nicholson