Under sin tid i klubben tillod Gattusos arbejdshastighed og alsidighed som boldvinder senere Milan-manager Carlo Ancelotti at placere midtbanespilleren Andrea Pirlo ved siden af ham i en mere kreativ, angribende position, mens Gattuso støttede ham i en dybere rolle som defensiv midtbanespiller; dette midtbanespartnerskab var afgørende for Milan's indenlandske og internationale succeser under Ancelotti, som omfattede Coppa Italia, UEFA Champions League og UEFA Super Cup i 2003, samt Serie A-titlen og Supercoppa Italiana
i 2004. Gattuso underskrev en kontraktforlængelse med Milan i juni 2003 og i oktober 2004. I denne periode nåede Gattuso også UEFA Champions League-finalen i 2005 med Milan, men blev besejret af Liverpool på straffe, efter at have ledet 3-0 i halvleg.