I marts 2004 viste Gebremariam, at han var kommet helt videre fra juniorrangerne ved at vinde to sølvmedaljer ved verdensmesterskaberne i langrenn
, den ene på den korte bane og den anden på den lange bane; i det væsentlige ville han være en af kun to mænd, der nogensinde har opnået sejre på korte og lange løb på samme mesterskab, hvis det ikke var for hans landsmænd Kenenisa Bekele. Han blev udvalgt til det etiopiske olympiske 5000 meter hold sammen med Kenenisa Bekele og Dejene Berhanu, hvor han sluttede fjerde, 0,25 sekunder bag bronzemedalje Eliud Kipchoge fra Kenya.