Efter parlamentsvalget i januar 1995, som blev vundet af en oppositionskoalition bestående af Nationalbevægelsen for Samfundsudvikling (MNSD) og PNDS, blev Bazoum udenrigs- og samarbejdsminister i premierminister Hama Amadou's regering, der blev udnævnt den 25. februar 1995. Han blev oprindeligt genudnævnt til denne post, efter at Ibrahim Baré Maïnassara greb magten i et militærkup den 27. januar 1996, men han blev erstattet i den regering, der blev opkaldt den 5. maj 1996. PNDS var imod Maïnassara, og den 26. juli 1996 blev Bazoum anbragt i husarrest sammen med PNDS-præsident Mahamadou Issoufou, få uger efter præsidentvalget i 1996.
- Hvad? Han og Issoufou blev løsladt på dommerens ordre den 12. august 1996.