Benson comenzó su carrera artística como cantante. Tras formar su grupo en 1965, Benson grabó dos discos de soul jazz y hard bop y colaboró en otros discos con artistas como Miles Davis, en Miles in the Sky. Grabó varios discos con grandes conjuntos en A&M (1968-1969) y CTI (1971-1976).Estos trabajos le convirtieron en una estella dentro del mundo del jazz, y ganó popularidad tras prodigarse más en lo vocal a partir de 1976. Su primer disco para esta Warner Bros., Breezin", se convirtió en un éxito gracias a su solo vocal en la canción "This Masquerade" lo que le llevó a frecuentar la fusión con el pop, cuya culminación fue el disco producido por Quincy Jones, Give Me the Night. Durante los ochenta frecuentó material comercial dejando su guitarra únicamente como acompañamiento. A finales, volvió a terrenos jazzísticos grabando un disco de estándares, Tenderly, y otro con la banda de Basie, en los que su guitarra volvió a tener protagonismo. Su oscilación entre el jazz y el pop ha sido frecuente desde entonces. En 2006 fue nominado a cuatro Grammys por Givin" it up.