聖武天皇は741年、日本全国に国分寺・国分尼寺を建て、七重塔に経典を収めると詔しました。こうして造られたのが、国分寺です。国分寺の総本山は、奈良の東大寺です。筑前国分寺は、大宰府が管轄した西海道(九州)の中では最も早く、756年までに完成したとみられています。
これまで金堂、講堂、七重塔、回廊など堂塔跡の遺跡調査が行われ、その成果に基づき整備されています。また、寺を囲む塀が残るところがあり、寺の範囲は192m四方とみられています。
なお、金堂跡の上に建てられている現在の「国分寺」には、平安時代後期の「伝薬師如来坐像」(重要文化財)が安置されています。
また東200mにある太宰府市文化ふれあい館には、精巧に復元された七重塔の1/10模型があります。