Capone blev i første omgang involveret med små gangster, der omfattede Junior Forty Thieves og Bowery Boys. Han sluttede sig derefter til Brooklyn Rippers, og derefter den magtfulde Five Points Gang med base i Lower Manhattan. I løbet af denne tid blev han ansat og mentoreret af sin kollega reket Frankie Yale, en bartender i en Coney Island dansesal og saloon kaldet Harvard Inn. Capone fornærmede utilsigtet en kvinde, mens han arbejdede døren på en Brooklyn natklub og blev skåret af hendes bror Frank Gallucio. Sårene førte til kælenavnet "Scarface", som Capone afskyrede. Da han blev fotograferet, skjulte han den arede side af sit ansigt og sagde, at skaderne var krigsskader. Han blev kaldt "Snorky" af sine nærmeste venner, et udtryk for et skarpt spørgsmål: Hvem var Capones mentor?
Frankie Yale