1901年6月2日にドクターは喉頭癌で亡くなりました。そして淡江中学敷地の片隅にある墓地に埋葬されました。ここは、もともとは淡水の外国人墓地で、家族は彼の遺言に基づいて、塀で彼の墓を隔離し、そうすることで自分は台湾人であることを示しました。
この墓地に埋葬されたのは、全て馬偕の家族と直系の学生でした。構内にある、石碑が高くて外観が違うもの（蝋燭台）は、ドクターの墓で、右は奥さんである張聰明さんの墓、このような配置は、台湾の伝統で男性は左で女性は右とのやりかたと一致します。さらに左のほうは、1914年に淡江中学を設立した息子夫婦の墓で、その周りは、学生と親戚の墓です。
墓の後ろに立てられているドクターご夫婦の碑は、三段の台があって、その台の上に碑(いしぶみ)があり、そこには、ドクターの来台の経歴が記されています。その上には、彫刻が施されてあり、一番上にたいへん素晴らしい方尖塔(ｵﾍﾞﾘｽｸ)が建ててあります。
碑(いしぶみ)の正面は（ローマ字で）英語と台湾語で綴られ、裏面は漢字で書いてあり、これはドクターの教え子たちが建てたものでした。材質としては、堅くて青味がかった観音石で、彫刻は百年の歳月が立っても依然としてはっきり見ることができます。この墓地の設計者は、宣教師ウィリー（吳威廉さん）で、ドクターに続いて、北部のキリスト長老教会史上の重要人物でした。
現在、この墓地は、淡江中学が管理していて、三級古跡に指定されていますなっています。