律令体制が弛緩し、官による財政支持がなくなると、国分寺・国分尼寺の多くは廃れた
[国分尼寺は国家が認めた尼を置く規定であったが、奈良時代中期に戒律が伝わると、朝廷は正式な僧侶の要件に授戒を受けるという条件を追加しながら、女性の授戒を禁止するという矛盾した方針を採ったために、国分尼寺に止住出来る尼がいなくなってしまい、結果的には国分尼寺そのものの存在意義が否認されてしまった。]。ただし、
中世以後もかなりの数の国分寺は、当初の国分寺とは異なる宗派あるいは性格を持った寺院として存置し続けたことが明らかになっており
[特に鎌倉時代後期以後に荒廃・衰微した各地の国分寺を保護・再建して末寺化した大和国西大寺及び同末寺の鎌倉極楽寺の影響は大きいとされている(両寺は真言律宗。また、明治時代初期に真言律宗が真言宗に一時的に強制統合された影響で真言宗に改宗したものもある)。]、あるいは後世において再興されるなどして、現在まで維持しているところもある。また、かつての国分寺近くの寺で国分寺の遺品を保存していることがある。国分尼寺も同様だが、復興を受けなかったところが多い。