Johnson giocò per 17 stagioni nelle Negro League dal 1921 al 1937. Di corporatura minuta, non batté mai di potenza ma ebbe successo come battitore di contatto e come difensore, tanto da essere ricordato come il miglior terza base della storia delle Negre League. Dal 1921 al 1929, Johnson fu membro degli Hilldale Daisies, di cui in campo divenne il leader. Grazie alle sue prestazioni la squadra vinse trepennantdella Eastern Colored League e nel 1925 le Colored World Series.[1]Dopo essere stato giocatore e manager degli Homestead Grays, fece ritorno ai Daisies all'inizio degli anni trenta, dopo di che firmò con i Pittsburgh Crawfords. La squadra di Pittsburgh del 1935 è considerata la migliore nella storia delle Negro League. Si ritirò nel 1937 dopo avere fatto un breve ritorno ai Grays.
Dopo il ritiro come giocatore, Johnson divenne un osservatore per le squadre dellaMajor League Baseball.Fu assunto come assistente allenatore deiPhiladelphia Athleticsnel 1954, diventando uno dei primiafroamericania firmare per allenare una squadra della MLB.[2]