皇跡山極楽院青蓮寺の縁起は、案内板によると…天武天皇がまだ親王のころの天智９年（670）、この地東連地町に２年ほど留まり帰還後その殿上に仏像や聖徳太子の像を安置した。その後５００余年を経て、周観上人が皇跡山極楽院瑞巌寺と称し、天台の法流を伝えた。
鎌倉幕府の御家人畠山重忠の第二子重秀は、重貞が殺された元久２年（1205）に出家して、恵空と称した。父の墓を尋ねて常陸国に来たとき、当山の太子堂に泊まって太子の夢を見、お告げに感じて親鸞の弟子となり、法号を性証と改めた。再び訪れたときは、境内が荒れ果てていたので、建保６年（1218）に境内を整え、堂宇を建てて浄土真宗の寺とした。その後、ここに住み青蓮の夢を見たことから、青蓮寺と改めたと伝えられている、と書かれています。
鎌倉時代の作と伝わる本尊の木造阿弥陀如来立像は、像高５３㎝、光背１０２㎝、昭和４６年（１９７１）に茨城県指定重要文化財に指定されています。
江戸時代中期に再建されたという寄棟、瓦葺、平入の本堂の蟇股に彫り込まれた１６菊紋が天武天皇の旧跡を示しています。木鼻の獅子と象も歴史を感じさせます。
このお寺を一躍有名にしたのは、江戸時代後期に、親鸞ゆかりの地の巡礼の途上で病に倒れ青蓮寺で手厚い看護を受けていた父、初衛門を迎えに、豊後国臼杵（現大分県臼杵市）からこの地まで３００里（１２００Km）約２ヶ月の旅をした都由（つゆ）、土岐（とき）の姉妹の話が伝わったからです。
この話は地元臼杵市では伝えられていましたが、２００４年に臼杵市の郷土史研究家が青蓮寺に照会したことをきっかけに、翌２００５年に青蓮寺で臼杵藩江戸屋敷から青蓮寺宛への手紙や姉妹からの礼状等の１７通の書簡が発見され、実話であることが判明しました。
その後、これらの書簡は「豊後国二孝女関係資料」として、常陸太田市の文化財に指定され、２００７年には茨城県の県立高校の道徳副読本にも掲載され、２０１０年には青蓮寺の境内に記念碑が建立されました。
またこれをきっかけに、常陸太田市、臼杵市は２０１５年姉妹都市を提携しました。
青蓮寺住職証吟夫妻が初衛門のために結ばせた庵跡です。村の人々の手助けや郷医猿田玄碩の手厚い看護があったといわれています。
文化８年（1811）８月１１日臼杵を出発した１９歳、２２歳の姉妹は、かえって危険だからと路銀を持たず、髪を切りあえて汚くみすぼらしい姿で、物もらいをしながら旅を続けたといいます。途中で臼杵藩の家臣に会って江戸屋敷で厚遇を受けたりの幸運にも恵まれ、１０月９日青蓮寺に到着後も、地元の役人なども支援に動き、孝心に対する褒美金が水戸藩庁より下されました。
臼杵市に残る資料には、時の水戸藩主徳川治紀の書状や、二孝女の行動を褒めたたえた短冊帖などがあり、これは武士や農民、商人、僧侶など９５人が詠んだ俳句や和歌で、お土産として持たせたものとされています。