1、凭法院调解书可以办继承公证，但是只凭法院调解书是不可以办理继承公证的，办理继承公证还需被继承人的身份证明、遗嘱原件、遗产产权证明等材料，然后带齐上述材料以及调解书到公证处申请公证。
2、法律依据：
《中华人民共和国公证法》第二十八条
公证机构办理公证，应当根据不同公证事项的办证规则，分别审查下列事项：
(一)当事人的身份、申请办理该项公证的资格以及相应的权利；
(二)提供的文书内容是否完备，含义是否清晰，签名、印鉴是否齐全；
(三)提供的证明材料是否真实、合法、充分；
(四)申请公证的事项是否真实、合法。