李白拖着病弱的身子折返金陵，由于年事已高，再加上长途的跋涉，在抵达金陵时他已是奄奄一息了，孱弱得每日只能躺在**。李白在金陵的生活起居都得仰赖朋友们的赈济和照料，这叫一身傲骨的“谪仙人”如何能忍受得了，但老弱贫病的他又能如何呢？
过了数月，他病体渐愈，决定离开金陵，但身上盘缠有限，不可能再像以往般遨游名山大川，而且刚病愈的身子也不容许他这么做，所以他决定到安徽当涂去，当时安徽邑宰李阳冰是李白的族叔，到那儿也可多个人照应。
李阳冰是赵郡广汉人，他工于书法，言谈举止温文儒雅，李白常赞颂他在诗文方面的造诣，与他常有唱和之作。一切安顿好后，李白便在当涂城外的谢公山中定居下来。谢公山原名青山，因谢朓曾居于此，便改叫谢公山。李白颇安于这种淡雅的生活状态，有就在此终老的想法，但他的健康情况一直不很稳定，时好时坏。
公元762年十一月，李白旧病复发，而此时李阳冰又因朝廷诏调，必须离开当涂。李阳冰在离去前夕上山探访李白，准备与他辞别。这时李白的病势已经很重，但见李阳冰来访，他非常高兴，便从案头取出自己所作的诗文对李阳冰说：“我一生浪**，四海为家，而一无所成，实在愧对我的老父，而今将咽下最后一口气，我仅有的只是这些诗文，望您能代我处理。这些日子来多蒙您的照顾，我实在无以为谢，只能有待来生再报了！”
李阳冰含泪接过了那一大沓文稿，并宽慰安抚了李白一阵，并嘱咐了一个张姓友人来照顾李白。
从李白处出来，李阳冰缓缓地下山，但仍不时地回头。他有种预感，这次可能是他和李白的诀别了，想到此处，李阳冰不禁潸然泪下。他哀伤、惋惜，并不仅因为李白是他的族侄，而是惋惜一位天才的沉沦，他为李白感到不平。
送走了李阳冰，李白手扶着门楹，仰望门口逐渐昏暗的苍天，神情凄楚。他知道自己生命之火已将燃尽。他勉强地移到床边，拿起了纸笔，当即作了一首《临终歌》：
大鹏飞兮振八裔，中天摧兮力不济。余风激兮万世，游扶桑兮挂石袂。后人得之传此，仲尼亡兮谁为出涕？
一生未能如大鹏般展翅翱翔，一酬壮志，这是李白一直耿耿于怀的，也许他终将抱着这憾恨永离人世。
据传说，一日李白精神格外的好，于是他下床走出屋外，一轮明月已经爬上树梢，沐浴着柔和的月光，倾听林间偶尔传来的鸟鸣，李白觉得全身舒畅。
刚刚恢复了一点精力，李白又拾起了杯中物。他在屋前一条名唤采石的江畔席地而坐，然后高举酒杯，孤独地大声吟唱起他当年的佳作。他就这样在江边追忆着，饮着，泪中带笑，笑中有泪，李白时不时抬起头，上面繁星点点，明月当空。
这时，一片云缓缓飘过，遮住了月亮，李白见状，惊道：“月亮怎么不见了？”这时，他看见江中忽闪忽闪地有团洁白的月影，于是随手抄起一坛酒，跳上岸边的一条小船，费力地向江心划去，一边划一边说:“月亮掉到江里去了，我要把它捞上来。”到了江心，他一口气将坛中的酒喝光，然后索性半蹲着身子，把手伸入水中，银盘一样的月影**漾起来，瞬间破碎了，于是他再次伸手去捞……由于他整个身体都集中在船的一侧，小船由于重心不稳一下子翻了过来，只听 “扑通”一声，李白跌入了水中，一会儿工夫就不见了。江水仍平静无纹，一轮清晰的月影重新浮上了江心。
一代文坛泰斗、旷世谪仙李白就这样抱着难以释怀的憾恨和抑郁沉溺于采石江中。江月诗酒，这些曾带给李白艺术生命力的东西，如今却吞没了他的生命。数日后，他的尸体在采石江的下游被发现，人们万分地惋惜、哀恸，连素未谋面的当涂县令也慕名亲自去祭拜一番。
李白生前曾留下遗愿，死后葬于谢公山，但由于家人经济拮据，所以未能如其愿，只是草草地将他葬于当涂县西北的龙山。
李白死后，李阳冰果然不负他的请托，将他的诗文结集付梓出版，并题名为《太白草堂集》，李阳冰还亲自作序，对李白的生平个性及际遇作了介绍。这便是我们今天所见 《李太白全集》的前身。
在李白死后四五十年后，他生前一位朋友范伦的儿子范传正出任宣歙池等州的观察使，他从小仰慕李白，所以常到龙山李白的墓前祭拜凭吊，还请了专人为李白守墓。范传四处去寻访李白的后人，好不容易才找到李白的两位孙女，可她们早已嫁人，成为村妇。范传见此情景，觉得实在对不住这位他仰慕已久的诗仙，便劝她们改嫁士族人家。李白的两位孙女虽然嫁为村妇，但却依旧温婉谦和，有书香风范，她们对范传说：“夫妻相合乃是缘分，我们安于目前的一切，多谢大人的关爱……先祖生前曾留有遗言要葬在谢公山，但因我们实在没有能力完成他老人家的心愿，这常令我们不安……望大人能代为迁葬，我们将感激不尽！”她们说着，早已呜咽不已。
范传听后，甚为感动，当即应允了，将李白墓迁于谢公山。于是这位生时不如意的诗仙终于如愿长眠于谢公山。
李白一生壮志凌云，却历经坎坷，蹉跎终老。他一身傲骨，誓不为权势摧眉折腰，却最终不得不在残酷的现实面前低头。他曾执著无限的超越，执著永不平凡的存在，执著生命的永恒和完美，虽然这些执著的结果都以破灭告终，但执著本身也是一种精彩，它最终成就了李白的不朽。
后代文人骚客路过当涂，无不往李白墓凭吊，并且吟诗题壁，他们为李白的壮志未酬而悲，他们为大鹏的折翼而恸，他的结局是凄凉的，但后世对他的吟诵却与他的诗名一样，永留人间。
采石江边李白坟，绕田无限草连云。
可怜荒陇穷泉骨，曾有惊天动地文。
但是诗人多薄命，就中沦落不过君。
渚苹溪藻犹堪荐，大雅遗风已不闻。
——白居易《李白墓》