大型で、1ｍ以上になる。根茎は匍匐する。葉柄は長さ30～50㎝、直径3～5㎜、わら色～栗褐色、上部は緑色。葉身は両面無毛、幅20～40㎝、楕円状三角形～卵状三角形、単羽状葉。羽片は基部が最も大きく、長さ20～35㎝、幅10～15㎝、2回羽状に分裂し、小羽片が1～3対つき、柄は長さ1～2㎝。頂羽片は長さ20～28㎝、幅2.5～4㎝。側羽片は3～5対つく。羽片は狭長楕円形、全縁又は細鋸歯、羽先が次第に細くなる。 ソーラス（胞子嚢群）は葉脈に沿って線形、網目状に結合し、縁近くまで広がるが縁まで達しない。
　類似のイワガネゼンマイは葉先が急に細くなって尾状になり、葉脈が平行に分岐し、網目にならない。イワガネゼンマイとイワガネソウの雑種はイヌイワガネソウといい、葉脈がところどころ網目になり、羽先もやや尾状になる。