1996年5月、森がオートレース選手への転身に伴いSMAPを脱退。同時にジャニーズ事務所も退所し、芸能界を引退した[注釈 2]。以降、解散まで20年間は5人で活動する。
1998年、スガシカオが作詞を提供した「夜空ノムコウ」が自身初のミリオンヒットを記録。この曲は、メンバーと同世代（ロストジェネレーション）の社会人の心情を代弁したものと評されている。この曲が世評に合致してヒットすることにより、1990年代末にはSMAPは全世代の支持を受けることになる[3]。
2000年、草彅主演のドラマ『フードファイト』の主題歌である「らいおんハート」が2度目のミリオンヒットを記録した[31]。12月5日に木村が結婚、グループでは初、かつ、解散まで唯一の既婚者となる。
2001年、デビュー10周年を記念してコンサートツアーを実施。しかし、同年8月に稲垣が不祥事により芸能活動を自粛。以降、稲垣が復帰する2002年1月までコンサートツアーを含め、4人のみで活動することになった。
2002年、「SMAP'02 Drink! Smap! Tour」にて115万人を観客を動員し[32]、一度のツアーにおける観客動員数の日本国内最多記録を樹立した[32]。
同年リリースの「世界に一つだけの花」は豊かな個性の喜びを謳った歌詞で、2003年放送の草彅主演のドラマ『僕の生きる道』の主題歌に起用された。急遽シングルカットしたCDの売上は、ダブルミリオン（解散時にはトリプルミリオン）の最大のヒットを記録する[33][34]。同年の『第54回NHK紅白歌合戦』ではグループとしては史上初めて大トリを務めた[35]。
2005年、2年ぶりにコンサートツアーを行い、7月30日の札幌ドームを皮切りにアーティストの単独公演としては初の国立霞ヶ丘競技場陸上競技場でコンサートを行った[31]。ツアー開始に合わせ、シングル「BANG! BANG! バカンス!」とアルバム『SAMPLE BANG!』を同時発売し、発売当日でシングル、アルバムともにランキング初登場1位を記録した。3人組以上のグループが同日発売のシングル・アルバムで同時に1位を記録するのは1993年のWANDS以来12年ぶりの記録であった。12月19日にはオリコン史上4組目となるシングル総売上2000万枚突破。『第56回NHK紅白歌合戦』では「Triangle」で2回目の大トリを務めた。スマップ 2008 スーパー・モダン・アーティスティック・パフォーマンス・ツアー
2008年、日本人アーティストでは当時史上最長の東京ドーム6日間公演を行った[36]。
2009年、4月23日の草彅の不祥事による芸能活動の自粛により、約１ヶ月間4人のみでの活動となった。
2010年9月、日本人史上初となる公演観客動員数1000万人突破を達成した[36][37]。同年から4年連続で紅白歌合戦の大トリを務める[注釈 3][38]。
2011年9月、2度の延期を経て、北京で初の海外公演を開催[36]。
2013年3月15日から期間限定でユニバーサル・スタジオ・ジャパン（USJ）とのコラボレーション・プロジェクト『UNIVERSAL STUDIOS JAPAN ? SMAP：WORLD ENTERTAINMENT PROJECT』を始動[39]、アトラクションのBGMとして同年2月27日発売のシングル曲「Mistake!/Battery」のオリジナルバージョンとリミックスバージョンが使用される[39]。翌2014年の4月18日、USJ初代大使として任命された[40]。
2014年、フジテレビ系列『FNS27時間テレビ』において、初の5人での総合司会を担当した[36]。
デビュー25周年を迎えた2016年、マネージャーの飯島三智と事務所のオーナーのメリー喜多川との間で確執が発生、一時はSMAPが分裂する危機に陥る[41][42]。この時は飯島が単身で芸能界を去ることで決着がついたが[43][44]、8月13日の深夜にFAXで解散が発表された[45][46]。
