太康四年二月辛巳，時年十二歲的劉羨正式開始守孝。
作為自兩漢年間因尊崇儒術逐漸普及的民俗，守孝之禮在西晉時期不僅沒有減弱，反而發展到登峰造極。
按照《禮記》中記載，在服喪期間，為體現孝心，守孝者的飲食要格外注意：如頭三日不食，出殯后方可食粥；等到了百日卒哭之后，才可以疏食水飲，也就是吃點粗茶淡飯；而一年小祥以后，才可以吃菜果；兩年大祥之后，才可以用醬油鹽調味；等到守孝期滿，才可以正常飲食，也就是可以吃肉了。
居住方面也是如此：在死者未下葬之前，孝子要居住在臨時搭建的簡陋棚屋之中；下葬之后，棚屋內壁可以涂泥擋風；百日之后，可以對棚屋稍加整理；一年小祥，可以拆除改建棚屋，用白灰涂墻，鋪用普通枕席；大祥時，就可以回到平常的房屋，但不能用床；守孝期滿，就不做要求了。
這樣苛刻的守孝內容，既妨礙生產，也毀壞人的肌體，在生活中自然是很難完全遵守的。
兩漢期間，能夠按《禮記》執行下去的孝子，不能說鳳毛麟角，只能說完全沒有。被地方當做道德表率推舉上來的孝廉，既有守孝了二十年，期間和妻子連生數子的，比如漢桓帝時之趙宣，也有先故作不孝姿態，然后假裝幡然醒悟，痛改前非的，比如漢明帝時之許武。所以當時有民謠譏諷說：“舉秀才，不知書；察孝廉，父別居。寒素清白濁如泥，高第良將怯如雞。”
所以說，能夠忍住世俗誘惑，不折不扣地守孝三年的，就已經是當時知名的大孝子了。比如漢末時的袁紹，先服母喪，再服父喪，守孝六年，因此聞名天下，人人以為賢。相比之下，被察舉為孝廉的曹操，卻沒有拿得出手的事跡。
但到了西晉時期，守孝之禮受到了空前重視，從上到下形成了一種“死孝”的氛圍。前些年，河東王接喪母，他為母守孝三年，嚴格執行《禮記》的飲食要求，以致于“柴毀骨立”，仿佛餓殍。而平陽王延更是夸張，據說他九歲喪母，守孝期間，三年泣血，幾至滅性，后來每年遭逢忌日，都要哀嚎悲泣十余日。哪怕是阮籍這樣，以放蕩不羈，蔑視禮法聞名的隱士，也不免要遵守吊祭之禮，只是具體細節不合常規罷了。
守孝到幾乎要死人的地步，這當然是不合時宜的。但一樣風俗能夠發展到這種地步，自然也有時代獨特的原因，說來無非是兩條：
一是經過數百年的權力斗爭后，士族終于爭得了應有的權力地位，也要付出相應的代價。
他們標榜自己的德行清高異于常人，應該獲得權力，那自然也要表現出相應的情操。而孝字作為儒學之首，正該是他們大作文章的地方。但至于是不是名副其實，這恐怕就要另行考量了。
二是司馬氏以篡權弒君奪得帝位，有違儒家提倡的忠君之道。但身為皇帝，也必須吹捧自己的德行，那便不得不在其他諸如仁恕、寬和等方向找補，如此才能符合“天家”之德。
而其中孝之一道尤為重要。齊王司馬攸身為宗室之首，以身作則，先為晉景帝守孝，再為晉文帝守孝，又服侍羊、張兩位母后，也一度形銷骨立，這才海內歸心。天子司馬炎稍不如兄弟，但也在行政上大肆提倡孝道。所謂上行下效，“死孝”之風自然是席卷九州，創歷代之最。
不過這些對于劉羨來說，沒有什么意義。他此時守孝，既不是作秀般的死孝，也不是敷衍般的走走過程。
由于早年跟隨陳壽讀書的時候，陳壽就在守孝，劉羨隨之一起飲食，早就適應過守孝的生活，此時再經歷一遍，他并不會感到什么不適。
但他此時也不想像其余那些守孝者一樣，天天在墓碑前痛哭流涕。因為看到張希妙的墓碑，他立刻會記起母親生前的教誨，感受到沉甸甸的負擔。流淚是承受不了負擔的表現，他必須向母親證明，自己能夠堅強地走下去。
所以劉羨婉拒了費秀等人派人照顧的要求，哪怕才十二歲，他就自己動手，專門在靠近母親的墓地旁，找一處平緩處建造木屋。他砍除荊棘雜草，打下木樁，上面鋪上木板，搭建起一座一丈見方的木屋，形制與當年陳壽的小屋差不太多。也是住宿之外，又在側面搭一個讀書這樣的頂棚。唯一的區別就是，劉羨日常還要練劍術與射術，所以還立了一些草人做靶子。