Skriv en fortsættelse til dette afsnit - Kellys første MLB postseason serie var 2012 National League Division Series, mod Washington Nationals. Han optrådte i tre kampe og kastede innings af relief uden at opgive et løb eller et hit; han gik en batter og slog ud tre slagtere. Cardinals derefter avanceret til 2012 NLCS
mod San Francisco Giants. I det afgørende spil 7, Kelly kom på at kaste i den tredje inning med Giants foran 2 <unk> 0 med baserne lastet og ingen outs; han opgav to hits og to walks, der varede bare en inning, og gik ud med Giants foran 7 <unk> 0, i et spil, de ville fortsætte med at vinde 9 <unk> 0. Samlet set gjorde Kelly fire optrædener i serien, hvor han kastede i alt fire innings i relief; han gav op med seks hits og blev opkrævet med to fortjente løbe, mens han gik tre battere og slog ud to battere.