国分寺の伽藍配置は全国の発掘調査からさまざまであることが報告されている。僧寺の基本形式は南から北への一直線上に南門、中門、金堂を配し、金堂の左右から中門へ回廊をめぐらして、七重塔は金堂からはずれた東側か西側に配される形である。この配置は東大寺の東西両塔の一方を省略した形といえる。伊豆国分寺をはじめ、山城、河内、尾張などがこの塔を従とした配置である。これに対して下総と相模は金堂を東、塔を西に配置している。これは法隆寺式といえる。
伊豆国分寺の配置は東大寺式である。国分寺の塔は、天平十三年の詔のように七重塔であった。元来、塔は釈尊や直弟子の佛舎利を埋納する祈りの施設であった。仏教が中国に伝来すると舎利は中国の葬法により地下に埋蔵されるが、後には心柱を受ける礎石の中に安置されるようになる。その上にインドの塔形が飾られて、三重、五重、七重の塔が出現したのである。また、国分寺塔には釈迦の遺骨(佛舎利)よりも釈迦の説法された経典こそ、釈尊の真実の教えがあるとのことから、聖武天皇自ら書写した紫紙金字『金光明最勝王経十巻』が安置されたともいわれる。全国各地の塔の遺跡例から国分寺塔の高さは二百尺(六十M)と推定されている。伊豆国分寺塔も同様であった。