Realitzà els primers estudis musicals amb el seu pare i més tard ingressà al Conservatori de Música de Leipzig, on tingué com a mestre C. Reinecke (1875-76). Entre el 1878 i el 1880 feu gires per Suïssa, Alemanya i Holanda que li comportaren un considerable prestigi. Després de dos anys d’inactivitat a causa d’una depressió, el 1883 tocà davant F. Liszt i es convertí en un deixeble apassionat del pianista i compositor hongarès. El 1885 participà en la creació del Lisztverein, que s’inaugurà amb dos concerts històrics de Krause. Dirigí l’esmentada associació fins el 1900, any en què abandonà Leipzig i es traslladà a Dresden. Es guanyà la vida com a professor, primer en aquesta ciutat, després a Munic i finalment al Sternsches Konservatorium de Berlín. Entre els seus deixebles destaquen el suís E. Fischer i el xilè C. Arrau.