Sheffield ligger lige ved siden af Rotherham, hvorfra det er adskilt stort set af motorvejen M1. Selv om Barnsley Metropolitan Borough også grænser Sheffield mod nord, er byen selv et par miles længere væk. Byens sydlige og vestlige grænser deles med Derbyshire; i første halvdel af det 20. århundrede Sheffield udvidede sine grænser sydpå ind i Derbyshire, annektere en række landsbyer, herunder Totley Dore, og det område, der nu er kendt som Mosborough Townships. Direkte mod vest for byen er Peak District National Park og Pennine Upland-området, mens lavlandet i South Yorkshire Coalfield ligger mod øst.
53°23′N 1°28′V