此诗的前二句就为全诗奠定了感情基调：愁怨忧思。娄图南常年飘零在外，羁旅天涯，今又客居他乡，难免不生愁绪。这一“思”一“愁”，既抒发了情感，又点明了娄的部分病因。三、四句“梦绕羽人丘”，进一步剖析娄病的主要原因。原来，娄整日魂牵梦绕的是如何入道，虽然被称为“居士”，也“将入道”，但终究还没有入道，个中滋味，常人很难了解，只有诗人深谙其中奥秘。诗的前四句，诗人不仅摹写其状，更主要的是通过娄病这一情形的描摹观照娄的内心，为下文劝勉娄图南做了铺垫。
诗的五、六句为诗人劝勉之句。娄图南甘于清贫，乐于求道，并为入道孜孜以求，文才“传咏都中”之名已丧失殆尽。要想找回“遗名”，诗人给他指出一条正确的途径：“得自求”。两句中一“怜”一“得”，表明了诗人鲜明的态度。诗人在《娄图南秀才游淮南将入道序》中指出：“（娄）为处士，吾以为非时也……以图寿为道，又非吾之所谓道也。”并针对娄图南“以唿嘘为食，咀嚼为神，无事为闲，不死为生”之道，发出激问：“……其于道何如也？”
“壁空残月曙，门掩候虫秋”两句，勾画了一幅独守残月空壁、候虫入室长鸣的清幽愁伤的楚地秋夜图：天上悬挂着弯弯残月，透着星许亮光。月光下，寺院幽寂，寺门虚掩，石壁空空，秋虫“唧唧”。这里有残月的微光，秋虫的长鸣，声光俱见，情景交融。此情此景，不禁使人愁肠百结、思绪绵绵。这两句历来被后来的诗人学者所推崇。
诗的最后四句既是劝慰之句，又是抒怀之言。作为朋友，应礼尚往来。娄图南“委以双金”，诗人却很难酬以杂佩。这当然是诗人的谦逊之辞。对娄一心只想羽人飞天，诗人郑重指出：“碧霄无枉路”，意即无碧天云霄的来去之路，求道的结果也只会是“徒此助离忧”，奉劝娄不要继续迷恋于入道，应清醒过来，奉行“君子之道”。
全诗以“愁思”开头，以“离忧”结尾。从表面上看，诗人是写娄图南的忧愁情怀。其实只要联系柳宗元贬永十年的非凡遭遇，就不难发现，诗人也是在抒写自己的“愁思”、“离忧”。