Pianista y compositor, hijo del contrabajista, Dennis Williams, Clarence Williams, empezó a tocar el piano a los ocho años y a los doce abandonó su ciudad natal con el grupo de Billy Kersand's y su Minstrel Show. En 1913 fue contratado por Armand Piron, a cuya orquesta pertenecía entonces Sidney Bechet. Después de una breve gira con el grupo de W. C. Handy, se trasladó a Chicago en 1917 donde abrió una nueva casa musical  cerca del Vendome Theatre. A principios de 1920 decidió afincarse definitivamente en New York donde contrajo matrimonio con la cantante Eva Taylor y fundo la C. Williams Music. Co. Inc. que pronto se convertiría en una de las mas prestigiosa empresas musicales, demostrando la habilidad para los negocios de Clarence.

     Su fama y su experiencia le permitió actuar en las salas mas elegantes de New York como pianista y cantante y dio comienzo su importante carrera discográfica, primero acompañando al piano a famosas cantes de blues como por ejemplo ocurrió con la gran Bessie Smith, y posteriormente al frente de los Blue Five entre 1923 y 1925 con la extraordinaria colaboración de Louis Armstrong, Sidney Bechet, Buster Bailey, Charlie Irvis, Thomas Morris y Buddy Christian. El encuentro entre Armstrong, Clarence y Bechet fue un paso decisivo y extraordinario en el devenir del jazz ya que dio lugar a originalísimos arreglos y marco el camino a seguir en la década siguiente con la era del swing. A finales de los años veinte, la producción discográfica de Clarence Williams siguió una senda ascendente y al frente, esta vez de los "Washboard Jive" produjo autenticas joyas discográficas.

     En 1928, en plena madurez estilística de Clarence Williams, se unió al grupo, el cornetista, Joe King Oliver, y junto a Ed Allen, el otro trompetista de la orquesta, compusieron otro ramillete de espléndidas composiciones. Contratado por el sello Okeh para dirigir la producción musical de la serie "Race Records" de la discográfica, Clarence encontraba tiempo para seguir explorando nuevos caminos al frente de su piano. Su ultima aparición en público fue en 1945 cuando actuó como cantante en la orquesta de Howard McGhee. En Mayo de 1956 fue atropellado por un coche perdiendo la vista y dejando en él fuertes secuelas de carácter mental que le condujeron a la muerte.