孙权回军，征讨合肥，为魏将张辽所挫。孙权围合肥十余日不克，遂撤围退兵，至逍遥津北，张辽乘机率步骑发动袭击。吕蒙、甘宁、凌统奋力抵挡，拼死厮杀，掩护孙权逃至逍遥津，孙权急策所骑骏马腾越而过。时值将军贺齐率三千人在逍遥津南接应，孙权才侥幸得免。

　　建安二十一年冬，魏王曹操治兵完毕，遂再次兴师伐吴，进至居巢。孙权即在濡须口筑城据守，以扼控濡须水与长江交汇处。同时，以吕蒙为都督，令其率军守濡须坞，凭借以前所建的船坞，置强弩万张以拒曹军。曹操的前锋尚未安营，吕蒙即率兵出击，将其击溃。由于吕蒙、蒋钦节度诸军奋勇抵抗，曹军久攻濡须坞不克。

　　建安二十二年三月，孙权派遣都尉徐详前往曹公营里请降。在接受孙权的请降后，曹操引军撤退。在曹操退兵后，孙权任命吕蒙为左护军，并从偏将军升任到虎威将军。孙权又任命荡寇将军、濡须督蒋钦为右护军。

　　同年冬，镇守陆口的鲁肃去世。吕蒙代替鲁肃为都督，西驻陆口，原来鲁肃所部人马万余全都归吕蒙指挥。孙权任命吕蒙为汉昌太守，增食下隽、刘阳、汉昌、州陵。

　　吕蒙辖区与关羽的江陵毗邻，二人各守其土。吕蒙深知关羽善战，有对外扩张的野心，而且从地势上讲，又处在自己的上游，绝对不会长期相安无事。因此，积极备战，准备伺机收回荆州。

　　当初，鲁肃在世时，鲁肃等人认为曹操雄踞北方，战乱刚刚开始，孙刘两家应该互相依赖，互相帮助，同仇敌忾，不可因双方利害争夺影响大局。当时，吕蒙就持有不同见解，曾向孙权献陈密计说道：“主公，如果现今让征虏将军孙皎据守南郡，潘璋进驻白帝，由蒋钦带领一万人的机动部队，沿长江上下巡察，敌人出现在哪里就奔赴哪里，而微臣我则为主公向前占据襄阳。像这样进行布置，还担忧曹操什么呢？还依赖关羽什么呢？再说关羽他们君臣，依仗其狡诈和力量，处处反复无常，怎么能将他们当作真心的好朋友啊！现今关羽之所以没有立即向东侵犯我们的辖境，原因就在于主公您无比圣明，我们这些将领还在世啊。如今不趁我们强壮时打他们的注意，一旦我们死了，要想在施展力量，还可能吗？”

　　孙权深纳其策。孙权又对吕蒙反复说起攻取徐州的意图，吕蒙回答说道：“主公，如今曹操在黄河以北，安抚平定了幽州、冀州，没有空暇顾及东面，徐州境内防守的兵士所说力量微不足道，只要去进攻，自然可以攻克。然而徐州的地势，只通陆路，是骁勇骑兵驰骋的地方，至尊您今日得到徐州，十天内曹操就会来争夺，虽说用七八万人来坚守它，还是值得忧虑的。不如攻取关羽，占据全部长江流域，形势就会更加壮大。”孙权认为这建议更为切实可行。

　　等到鲁肃去世，吕蒙代替鲁肃为都督，吕蒙初到陆口，便对关羽加倍殷勤，广施恩义，和关羽结下友好关系。

　　建安二十四年七月，关羽率军北上，围攻魏国的襄阳、樊城。吕蒙上书给孙权说：“关羽攻打樊城而留下很多守兵，必定是害怕我袭击他后方的缘故。我时常生病，可以以治病为名，分一部分士兵和我一起回建业。关羽听说这个消息后，就会撤掉守兵，全部开赴襄阳。那时，我们的大军走水路，乘船昼逆流而上，乘他不备，袭取他的空虚所在，那么就可以夺得南郡，擒获关羽。”

　　上书后，吕蒙就声言病重，孙权则公开下达文书，召他回建业。关羽闻讯果然中计，逐渐把守备兵力调往樊城。

　　冬十月，吕蒙奉孙权之召返回建业，途经芜湖，帐下右部督陆逊前来拜见，对吕蒙说道：“都督，关羽和您的防区相邻，为什么远远离开，以后不会为此而担忧吗？”

　　吕蒙说道：“的确如你所说，可是我病得很重。”

　　陆逊说道：“都督，关羽自负骁勇，欺压他人，刚刚开始取得大功，就骄傲自大，一心致力向北进攻，对我军未加怀疑，不听说您病重，必然更无防备，如果出其不意，就可以将他擒服。您见到主公，应该妥善筹划此事。”

　　吕蒙大惊，但为不泄露军机，便说道：“关羽素来勇猛善战，我们很难与他为敌，况且他已占据荆州，大施恩德和信义，再加上刚刚开始取得战功，胆略和气势更加旺盛，不易对付。”

　　后吕蒙拜见孙权，孙权问谁可以替他在陆口指挥，吕蒙极力推荐陆逊，并说道：“主公，陆逊思虑深远，有能力担负重任，看他的气度，终究可以大用；而且他没有大名声，不是关羽所顾忌的人，没有人比他更合适了。如果行用他，应该要他在外隐藏锋芒，内里观察形势，寻找可乘之机，然后向敌人进攻，可以取得胜利。”

　　孙权下令，由陆逊代替吕蒙。陆逊来到陆口，马上写信给关羽，表示自己对他的仰慕，并且表示绝不与关羽为敌。关羽愈发大意。

　　在当年的八月，汉水流域曾因为天降暴雨而发生“汉水溢流，害民人”的自然灾害。当时的关羽乘船进攻，擒获魏将于禁后，得到人马数万。后来，到了闰十月，关羽借口粮食匮乏，擅自取走了储藏在湘关的米。孙权得知此事，觉时机成熟，便派兵袭击关羽。

　　孙权准备任命征虏将军孙皎和吕蒙为左、右两路军队的最高统帅，吕蒙说道：“主公，如果您认为征虏将军有才能，就应任用他为统帅；若认为我有才能，就应任用我。以前，周瑜和程普为左、右部督，率兵攻打江陵，虽然事情由周瑜作决定，然而程普伏恃自己是老将，而且二人都是统帅，于是双方不合睦，几乎败坏国家大事，这正是现在要引以为戒的。”孙权醒悟，向吕蒙道谢说：“以你为统帅，可以任命孙皎做你的后援。”

　　十一月，孙权西征关羽，任命吕蒙为前部，率军隐蔽前出，进至寻阳，把精锐士卒埋伏在伪装的商船中，令将士身穿白衣，化装成商人，募百姓摇橹划桨，昼夜兼程，溯江急驶，直向江陵进袭，一切都进行得十分隐蔽和诡密。

　　驻守江防的蜀军士兵被伪装的吴军所骗，猝不及防，全部被俘虏，江陵城内空虚，陷入混乱。吕蒙先让原骑都尉虞翻写信诱降驻守公安的蜀将傅士仁，又使傅士仁引吴军迫降守江陵的蜀南郡太守麋芳。麋芳献城出迎，吕蒙遂率大军进据江陵，从而，一举夺回蜀长期占据的荆州。刚而自矜的关羽，却对吕蒙的袭击行动竟一无所觉。

　　南郡太守麋芳开城出降时，吕蒙在沙丘上庆祝南郡投降，虞翻此时劝吕蒙小心城中会有伏兵，江陵城中只有麋芳跟吴军是一心的；其他人居心叵测，劝吕蒙应尽快入城控制城池，吕蒙幡然醒悟、及时掌控城中要地，让原本想要伏击的人来不及设好埋伏。当时城内果然设有伏兵，因为吕蒙接纳虞翻的劝告，这次伏击才不成功。

　　吕蒙将关羽部下的家属全部抓获，厚加抚慰，并下令军中，不得骚扰百姓，不得擅人民家有所索取。

　　当时吕蒙手下有一个军士，与吕蒙一样是从淮河以北的汝南郡南渡而来。他拿了民家一斗笠，来覆盖官府的铠甲。吕蒙认为，铠甲虽是公家器物，但擅取民家斗笠还是犯了军令。挥泪将他斩首。于是军中震栗，以致路不拾遗。

　　吕蒙还派人早晚慰问年长之人，关心他们的生活，补给不足。若有人生病，就送去医药，有人饥寒，就送去粮食和衣服。关羽府库中的财宝，吕蒙一毫不取，全部封存。

　　当时关羽已被徐晃击败，闻江陵失守，更是惊慌，急忙撤军而回。回军途中，数次派人与吕蒙联络，吕蒙热情接待关羽派来的使者，带他到城中周游，让他到将士们家中去慰问，于是，有的人亲笔写信，说得到吕蒙厚待。使者回到关羽军中，将士们得知家中不但平安无事，而且所受到的优抚超过了平时，故军无斗志。

　　此时，孙权已先到达江陵，派陆逊攻占夷陵、秭归，切断关羽入川退路。关羽向驻扎上庸的蜀将刘封、孟达求援，被拒绝。关羽陷于进退失据，腹背受敌的困境，遂西走麦城。是年十二月，关羽率少数骑兵从麦城突围，西逃璋乡，其部下皆降于孙权。孙权又派朱然、潘璋截断了他的道路，关羽父子最终为潘璋部司马马忠擒获，荆州遂定。

　　当初，关羽曾梦见猪啮脚，自知不详，后来，果然被吕蒙的将士们斩首于临沮。

　　江陵一战，吕蒙立功至巨，孙权任命他为南郡太守，封孱陵侯，赐钱一亿，黄金五百斤。吕蒙推辞再三，不肯接受金钱，孙权不许。封爵还未颁布，吕蒙疾病发作。孙权时在公安，就把吕蒙接来安置在内殿，千方百计诊治护理，并且下令，在国内招募医者，有能治好吕蒙病的人，赏赐千金。

　　孙权尽心为吕蒙治疗，每当医者给吕蒙针灸，孙权就为之难过。孙权想多看看吕蒙，又怕他太过劳碌，于是命人凿通墙壁暗中观看。如发现吕蒙吃下点东西，孙权就高兴，对手下人有说有笑；如发现吕蒙不进饮食，孙权就长吁短叹，夜不能寐。吕蒙病情略有好转，孙权就下达赦令，让群臣都来庆贺。

　　后来，吕蒙病情加重，孙权亲自到床前探视，命道士为他祈祷，想保全他的性命，又问吕蒙：“假如你不能再起来为我效力，谁可以代替你镇守江陵呢？”

　　吕蒙回答说：“朱然胆略、守业都充足有余，我认为他可以代替我接受任命。”

　　吕蒙最终在孙权内殿中去世，死时四十二岁。孙权悲痛万分，缩食减眠以示哀悼。吕蒙生前，所得的金银财宝和各种赏赐都交到府库中收藏。他命令主管人员，待其死后，把这些全部还给朝廷。他还留下遗言，丧事务求俭约，不得奢侈。孙权知后，愈益悲伤。

　　吕蒙死后，其子吕霸袭爵。并赐给他守家墓的人家三百户，免收田赋的田地五十顷。