Phil Woods, empezó a interesarse por la música cuando heredó de un tío suyo, un saxo. A finales de los años cuarenta se traslada New York decidido a hacerse músico profesional. Estudió con el pianista, Lennie Tristano y posteriormente en la "Manhattan School of Music" y en la prestigiosa "Julliard School" donde se licencio en el estudio del clarinete. Sus primeros contratos profesionales se remontan a 1954, cuando tras una breve colaboración con Richard Haynes, fue contratado sucesivamente por las orquestas de Charlie Barnet y por el quinteto de Jimmy Raney. También en 1954 grabó su primer para el sello "New Jazz" titulado: "Phil Woods and New Jazz Quintet". En 1956, militó en la orquesta de Dizzy Gillespie, actuando con el célebre trompetista en casi todo el mundo durante tres años. Posteriormente estuvo con la banda del maestro de la batería, Buddy Rich en 1958 y entre 1959 y 1961, perteneció a la orquesta de Quincy Jones. En 1961 grabó su primer gran disco en quinteto con composiciones propias. Se titulo "Rights of Swing" y se grabó para el sello "Candid" con el acompañamiento, entre otros grandes músicos, de Tommy Flanagan al piano y Curtis Fuller al trombón. En 1962 participó en el grupo que acompañó al clarinetista Benny Goodman de gira por la Unión Soviética y grabó el disco: "Benny Goodman and his Orchestra en Moscow". Participó como jazzmen de Thelonious Monk y de Oliver Nelson. En Paris fundó uno de sus grupos más famosos, el cuarteto denominado "European Rhythm Machine". Phil Woods está considerado como el más brillante discípulo blanco de Charlie Parker.