興化多進士，就鄉舉者常八九百人，而學舍弊小無文籍。公至則新而大之，為之購書，而國子之所有者皆具。均州漢上舟子，數溺商旅取貨財，而以險為解，公捕案寘法，因取近灘數家除其徭，使表水險，涉者因此得不死。曹州多盜，亡命之尤兇強者七十余人，公集重購，得之幾盡。又修律令五家為保之法，故盜往往逃去之它境。蓋公施于政者能如此。
公嘗為書十二篇上之，曰《國政要事》，其說多聽用，而中書欲遷職事以獎之。公乃自言：“外祖王氏葬揚州，無主后，愿除淮南所當得之一官，以往視其丘墓而已。”岐公之葬也，天子自曹州召公歸襄事，特詔許公升殿。公謝岐公遭遇始終恩禮之厚，因乞御篆岐公之碑首。上為動容，賜其首曰“褒忠之碑”，而公終無一言自及。既分司，無田園，僦官屋以居，自為棺斂葬埋之制，趣于儉而已。少長好書，以至于老，于篆籀尤善。有集二十卷，其文能世其家者也。
夫人馮氏，江南李氏時宰相延巳之孫。子男五人：世范，前商州洛南縣尉；世安，前廣州新會縣令；世修，大理寺丞；世永，將作監主簿；世弈，太常寺太祝。女四人：長適大理評事柳安期，次適右班殿直王允懿，次尚幼也。
陳氏，漢太丘長諱寔之后，故其望在潁川，而世居洪州之南昌縣，當唐末五代之亂無仕者。魏公布衣起閭巷，明敏諒直稱天下，仍父子執國柄，而至岐公尤盛。公于仕嘗齟齬，然尚至九卿，以榮祿自終。蓋太丘之仁，隱阨于一時，而紀、諶、群、泰貴顯者數世，豈魏公之先，遭世不治，亦有潛德晦行如太丘者乎？不然，何其后世之興如此？是故不可以無銘也。銘曰：
虞賓夏商，其后為陳。屢絕復封，以承圣人。至漢太丘，棄時就德。詒祿魏晉，子孫世食。既又困窮，乃生魏公。魏公之出，魁名碩實。有公有卿，饋杞其室。公則盛矣，天子所思。繩繩維卿，亦顯于時。治官牧民，入出具宜。胡公之虛，太丘之里。兩有州國，紹榮本始。歸葬浚郊，皇考在前。峙此銘詩，為告新阡。
虞部郎中贈衛尉卿李公神道碑