I 1996 vendte Johnson tilbage til Baltimore som Orioles' manager på en treårig kontrakt på 2,25 millioner dollars. Orioles havde gået 71-73 det foregående år, men holdet havde lovende talent til at gå med fremtidige Hall of Famers Cal Ripken, Jr., Mike Mussina, Eddie Murray og Roberto Alomar. Holdet gik 88 mod 74, og sluttede fire kampe bag New York Yankees i AL East, men det var godt nok til Wild Card med tre kampe. Det var Orioles' første tur til postseason siden de vandt World Series i 1983. Orioles mødte Cleveland Indians i Division Series, den forsvarende mester i American League, der havde vundet 99 kampe, den bedste i majors den sæson. Orioles vandt de første to kampe før Cleveland tvang et fjerde spil med en sejr, og de var en inning væk fra at tvinge en anden, før Orioles rallyede med en Alomar to-out RBI single, og han gav dem føringen i den 12. på et home run, der leverede Baltimore til Championship Series
mod New York Yankees. Orioles førte Game 1 4-3 i syvende inning, før en flyball fra Derek Jeter blev ulovligt fanget over hegnet af fanen Jeffrey Maier over hænderne på Tony Tarasco, der bandt spillet. Yankees vandt spillet i den ellevte inning, og mens Orioles rebounded for at vinde Game 2, vandt Yankees derefter de næste tre; Game 3 så en blæst føring af Orioles i ottende inning, der vendte en 2-1 føring til et 5-2 tab, mens Yankees scorede tre løb i ottende i Game 4 for at blæse en 8-4 beslutning, mens Game 5 så Yankees score alle de løb, de havde brug for i tredje inning for en 6-4 clincher.