吕蒙推荐甘宁担任升城督，率领士兵在前面攻城，自己率领精锐部队随后跟进。凌晨时分发起进攻，吕蒙亲自擂鼓助威，士兵们个个奋勇攀登城墙，到早饭时分就攻破了皖城。不久张辽率军赶到夹石，听说皖城已被攻陷，只好撤退。孙权为嘉奖吕蒙的战功，当即任命他为庐江太守，缴获的人马全都分给了他，另外赏赐他寻阳屯田的六百士兵和三十名官吏。吕蒙返回寻阳后，没过一年庐陵郡发生叛乱，将领们征讨没能平定，孙权说：“一百只猛禽也比不上一只鱼鹰。” 再次命令吕蒙前去讨伐。吕蒙到达后，诛杀了叛乱的首领，其余的人全部释放，恢复他们的平民身份。
当时刘备命令关羽镇守荆州，独占荆州土地，孙权命令吕蒙西进夺取长沙、零陵、桂阳三郡。吕蒙给长沙、桂阳两郡送去文书，两郡守军望风归降，只有零陵太守郝普据城坚守不肯投降。而刘备从蜀地亲自赶到公安，派关羽率军争夺三郡。孙权当时驻守陆口，派鲁肃率领一万人马驻守益阳抵御关羽，同时紧急写信召见吕蒙，让他放弃零陵，立刻返回援助鲁肃。起初，吕蒙平定长沙后，正要进军零陵，路过酃县时，带上了南阳人邓玄之，邓玄之是郝普的老朋友，吕蒙想让他去劝说郝普投降。等到收到孙权的书信应当返回时，吕蒙隐瞒了书信内容，连夜召集将领们，部署作战方案，决定第二天早晨攻城，又对邓玄之说：“郝子太（郝普）听说世间有忠义之事，也想效仿，但他不了解当前的形势。左将军刘备在汉中被夏侯渊围困，关羽在南郡，现在我们主上亲自率军征讨，最近他们攻破樊城大本营、援救酃县的部队，反而被孙规打败。这些都是眼前的事，是您亲眼所见的。他们正首尾难顾、疲于奔命，哪里还有余力来救援零陵呢？现在我军士兵精锐，人人都想奋勇杀敌，主上派来的援军在路上源源不断。现在郝子太以危在旦夕的性命，等待毫无希望的救援，就像牛蹄窝里的鱼，希望依赖江汉的水，这种依赖不可靠是很明显的。如果郝子太真能凝聚士兵的军心，坚守孤城，还能拖延一段时间等待援兵，那也可以。但依我估计，我们全力攻城，用不了一天就能攻破城池，城破之后，他自己被杀对事情有什么好处呢？还会让百岁老母白发苍苍遭受诛杀，难道不令人痛心吗？我推测他是因为得不到外界消息，以为援军可靠，所以才坚持到现在。您可以去见他，为他陈述祸福。” 邓玄之见到郝普，把吕蒙的意思全都告诉了他，郝普感到恐惧就投降了。邓玄之先出城向吕蒙报告，郝普随后就到。吕蒙预先命令四位将领，各选一百名士兵，等郝普出城后就进城守住城门。片刻之后郝普出城，吕蒙上前握着他的手，和他一起上船。寒暄完毕，吕蒙拿出孙权的书信给他看，随即拍手大笑，郝普看到书信，才知道刘备在公安、关羽在益阳的消息，羞愧悔恨得无地自容。吕蒙留下孙皎，把后续事务委托给他，当天就率军赶赴益阳。后来刘备请求结盟，孙权才归还郝普等人，以湘水为界分割荆州，把零陵还给刘备。孙权把寻阳、阳新作为吕蒙的奉邑。军队返回后，就征讨合肥，撤军时遭到张辽等人袭击，吕蒙和凌统拼死保卫孙权。后来曹操又大举进攻濡须，孙权任命吕蒙为都督，依据之前修建的营垒，在上面布置一万张强弩抵御曹军。曹操的前锋部队还没站稳脚跟，就被吕蒙率军击败，曹操只好率军撤退。孙权任命吕蒙为左护军、虎威将军。
鲁肃去世后，吕蒙向西驻守陆口，鲁肃的一万多名兵马全都划归吕蒙统领。又被任命为汉昌太守，管辖下隽、刘阳、汉昌、州陵四县。吕蒙与关羽分地相邻，知道关羽勇猛雄健，有吞并东吴的野心，而且关羽的辖区位于东吴上游，这种局势难以长久维持。起初，鲁肃等人认为曹操还在，战乱刚刚开始，应当与刘备互相协助，共同对抗曹操，不能破坏联盟。吕蒙却秘密向孙权献上计策说：“让征虏将军孙皎驻守南郡，潘璋驻守白帝，蒋钦率领一万机动部队沿长江上下游动，随时应对敌军，我为国家前去占据襄阳，这样一来，何必担忧曹操，又何必依赖关羽呢？况且关羽君臣，依仗他们的欺诈手段和武力，反复无常，不能把他们当作心腹对待。现在关羽之所以没有立刻向东进攻，是因为主上您英明神武，我们这些将领还在。现在不趁我们强盛的时候谋取他，一旦我们这些人去世，再想施展武力，还能做到吗？” 孙权非常赞同他的计策，又顺便和他讨论夺取徐州的想法，吕蒙回答说：“现在曹操远在河北，刚刚打败袁氏各势力，正安抚幽州、冀州，无暇顾及东边。徐州的守军，听说兵力不多，前去攻打自然可以攻克。但徐州地势平坦开阔，适合骑兵驰骋，主上今天夺取徐州，曹操随后十天必定会来争夺，即使派七八万人防守，仍然会令人担忧。不如谋取关羽，完全占据长江，局势会更加有利。” 孙权尤其认为这话很有道理。等到吕蒙接替鲁肃驻守陆口，刚到任时，表面上加倍施恩，与关羽结好。
后来关羽率军讨伐樊城，留下部分兵力驻守公安、南郡防备东吴。吕蒙上书孙权说：“关羽征讨樊城却留下许多兵力防守后方，一定是担心我从背后偷袭。我一直有旧疾，请求把部分兵力调回建业，就以治病为名。关羽听说后，必定会撤走防守兵力，全部调往襄阳前线。到那时我们大军沿江而上，昼夜疾行，趁他后方空虚发动突袭，南郡就能拿下，关羽也可活捉。” 于是吕蒙对外宣称病情加重，孙权故意用公开文书召他返回建业，暗中却在谋划袭取荆州的计策。关羽果然信以为真，逐渐撤走南郡守军开赴樊城。
魏国派于禁率军救援樊城，关羽将其全军俘获，一下子增加了几万兵马。他借口粮草不足，擅自取用了湘关的存粮。孙权得知这个消息，立即下令出兵，先派吕蒙率领先头部队进发。吕蒙抵达寻阳后，把精锐士兵全都埋伏在伪装成商船的大船里，让士兵穿着白色便服摇橹，打扮成商人模样，昼夜兼程逆流而上。遇到关羽设在江边的哨所，就把哨兵全部活捉捆绑起来，所以关羽对吴军的行动毫无察觉。大军顺利抵达南郡，守城的将士仁、麋芳先后投降。（《吴书》记载：将军士仁在公安据城坚守，吕蒙派虞翻前去劝降。虞翻来到城下，对守城士兵说：“我要和你们将军面谈。” 士仁不肯见面，虞翻就写信说：“明智的人在灾祸未发生时就做好防备，聪明的人在祸患来临前就早做打算。知道得失才能做人，知道存亡才能分辨吉凶。我军行动神速，哨兵来不及传递消息，烽火来不及点燃报警，这不是天意，必定是内部有人响应。将军不提前看清形势，时机到了又不抓住，独自坚守这座孤立的城池不肯投降，拼死抵抗只会导致宗族覆灭，被天下人耻笑。吕虎威将军打算直接进军南郡，断绝所有陆路通道，您的生路一旦被堵死，按地形来看，就像处在簸箕舌头上，想逃都逃不掉。投降虽失忠义之名，我实在为将军的处境担忧，希望您仔细考虑。” 士仁看完信后，流着泪开城投降。虞翻对吕蒙说：“这是军事欺诈，应当带士仁同行，留下兵力守城以防变故。” 于是带着士仁前往南郡。南郡太守麋芳正在守城，吕蒙让士仁现身劝降，麋芳随即投降。《吴录》记载：起初南郡城中失火，烧毁了不少军械，关羽为此严厉斥责麋芳，麋芳内心十分恐惧。孙权得知后派人诱降，麋芳暗中答应归附。等到吕蒙攻城时，他带着牛酒出城投降。）
吕蒙进入南郡后，俘获了关羽及部下将士的全部家属，都加以安抚慰问，严令军中不得骚扰百姓、索取财物。吕蒙部下有个汝南同乡，拿了百姓一顶斗笠遮盖公家铠甲，虽然铠甲是公物，吕蒙仍认为他违反军令，不能因为是同乡就破坏军纪，最终含泪下令将其斩首。从此军中将士人人敬畏，路不拾遗。吕蒙早晚派亲信慰问城中老人，询问他们的需求，对患病的人供给医药，对饥寒的人发放衣粮。关羽府库中的财宝，全都封存起来等待孙权到来处理。