Smith fik derefter kontrakt med pladeselskabet [[Kill Rock Stars]], hvor han udsendte pladerne ''[[Elliott Smith (album)|Elliott Smith]]'' i [[1995]] og ''[[Either/Or]]'' i [[1997]], opkaldt efter [[Søren Aabye Kierkegaard|Søren Kierkegaards]] værk af samme navn. Pladerne blev mindre og mindre "Lo-Fi", og der kunne drages paralleller til både [[Nick Drake]] og [[Kurt Cobain]] samt hans favoritband [[The Beatles]]. ''Either/Or'' gav ham for alvor medvind hos kritikerne, og det var også gennem denne plade, at Gus Van Sant opdagede ham. Under optagelserne til filmen ''Good Will Hunting'' hørte han Smiths sange så meget, at der måtte være en mening med det og da han spurgte Smith om han måtte bruge noget af hans musik i filmen fik han et ja. Filmen indeholdt en enkelt sang fra ''Roman Candle'', tre fra ''Either/Or'' og til lejligheden skrev Smith også sangen "Miss Misery".
Kunst Musik