Skriv en fortsættelse til dette afsnit - Født i Nice, sluttede Sarr sig til den lokale side OGC Nice i en alder af seks. Han tilbragte de næste 12 år i klubbens akademi, før han gjorde sin Ligue 1-debut for klubben den 14. august 2016 mod Rennes, 17 år gammel. Han scorede det sejrbringende mål for sit hold i det 60. minut, på vej hjem fra et Jean-Michaël Seri frispark. Dermed blev han den anden yngste spiller, der nogensinde scorede på debut i Ligue 1, bag nigeriansk international Bartholomew Ogbeche. Efter kampen dedikerede Sarr sit mål til ofrene for terrorangrebet i Nice i 2016.
- Hvad? Forud for kick-off blev der holdt et minuts stilhed til minde om ofrene med både Nice og Rennes iført unikke mindes-trøjer med navnene på de døde. Den 7. november 2016 underskrev Sarr sin første professionelle kontrakt med Nice og ved slutningen af sæsonen havde han lavet over 30 optrædener, da klubben sluttede ligaen på tredjepladsen.