書法家潘存畫像
傳為潘存所書溪北書院牌匾
潘存與溪北書院
提起潘存，不得不提到坐落于文昌鋪前的溪北書院。1883年，已66歲的潘存一直未得遷升，決意歸隱回到家鄉海南文昌。在此前后，潘存先后受聘主講于惠州豐湖書院、海南蘇泉書院及文昌蔚文書院，大力培育人才，養一方正氣。
潘存的教育思想是把德育放在首位，非常強調思想修養，他說：“讀書先求做人為要，我不欲與今人爭文章，而欲與古人爭德行”，“學者，宜以德行見長，莫徒以文辭見長”，可見潘存擺正了讀書與做人的關系，即擺在首位的是德育，其次才是智育。
有生之年到處講學，一心想弘揚儒學的潘存想創立奇甸書院，以恢復海南先賢丘文莊公之傳統，教育后學，可惜沒有成功。此后又籌辦溪北書院，嘔心瀝血。
時至今日，溪北書院仍存，位于文昌文北中學，書院占地面積20多畝，前臨清水池塘，規模宏大，多采用透雕工藝和花鳥瑞獸裝飾。書院坐北朝南，正室三進，兩邊為廂房，卷棚頂鋪蓋璃琉瓦。正門鑲掛清末著名書法家楊守敬書寫的“溪北書院”匾額。二進廳堂懸掛“講堂”木匾，為五開間四合院，是書院訓導學生的場所。三進正堂為“經正樓”，為書院主體建筑。“溪北書院”四個字為楊守敬所書，而“講堂”和“經正樓”則為潘存所書。
而仔細觀察，溪北書院的繁體“書”字缺一橫，講堂的“講”字缺一豎，是當時的筆誤，還是另有原因？文昌文北中學老師鄧方群對此有著深入的研究：“書字缺一橫，講字缺一豎，兩字各缺一筆，這就是書法中所講的殘缺字，這是潘存和楊守敬意在告訴后人，書字缺一橫告訴學子在一生中有讀不完的書，講字缺一豎告訴老師在一生中有講不完的學，無論師生都要不斷學習，可見當時潘存建造溪北書院時的用心良苦。”
溪北書院在雷瓊道朱采和兩廣總督張之洞的支持下籌資，建造書院購藏書籍，聘任學者講學，以培育人杰。“經正樓”后遭臺風破壞，于1921年改建成現在的中西合璧式二層樓建筑。現今保存完好，辛亥革命后一直作為學校使用至今。
溪北書院即將建成時，光緒十九年（1893)潘存因年高勞累去世。潘存墓坐落在鋪前鎮東坡鄉港頭村南坡，墓碑刻“清故中憲大夫戶部事潘府君諱存之神道”。墓園至今保存較為完整。
