Han var fødd i Baltimore, og vart som barn pukkelrygga og kortvokst, på grunn av tuberkulose. Lækjaren hans rådde han til å byrje å spele trommer for å lindre stive ledd. Dette vart starten på ei framgangsrik musikkarriere. Til trass for dei fysiske hindringane vart han ein av jazzens største trommeslagarar. Som 17-åring byrja han å spele med artistar som Duke Ellington og Johnny Hodges. Han var veldig talentfull og beundra av mange samtidige trommeslagarar.
Webb døydde i 1939 på grunn av tuberkulose, berre 34 år gamal. Vokalisten Ella Fitzgerald tok etter hans død over orkesteret.
