潘濬，字承明，是武陵郡汉寿县（今湖南汉寿附近）人。他二十岁左右时，曾跟随学者宋仲子学习。（《吴书》记载：潘濬为人聪明，观察细致，回答问题条理清晰、有逻辑，山阳郡人王粲见到他后，特别看重他的与众不同，潘濬也因此渐渐有了名气，后来在武陵郡担任功曹（协助太守处理政务的官员）。）
还不到三十岁时，荆州牧刘表就征召潘濬，让他担任部江夏从事（负责监察江夏郡官员的职务）。当时沙羡县（今湖北武汉附近）的县长贪污腐败、行为不端，潘濬查明情况后，直接下令将其处死，整个江夏郡的官员都被吓得不敢再胡作非为。后来潘濬调任湘乡县（今湖南湘乡）县令，治理地方很有成效，名声远扬。
刘备占领荆州后，任命潘濬为治中从事（协助州牧处理军政事务的核心官员）。刘备进军蜀地后，特意留下潘濬，让他负责荆州的日常事务。
孙权后来击败关羽、吞并荆州，任命潘濬为辅军中郎将，还给他调配了兵马。（《江表传》记载：孙权攻占荆州后，荆州原来的将领官吏几乎都归顺了东吴，只有潘濬称病不肯露面。孙权派人抬着床，到潘濬家里把他接来，潘濬却趴在床席上不肯起身，眼泪不停地往下流，哭得抽抽搭搭，连话都说不完整。孙权亲自上前安慰他，还喊着他的字说：“承明啊，从前丁父是鄀国的俘虏，周武王却任命他为军队统帅；彭仲爽是申国的俘虏，周文王却让他担任令尹（楚国最高官职）。这两个人都是你们荆州的先贤，刚开始虽然是俘虏，后来却都被重用，成了楚国的名臣。你怎么偏偏不一样，不肯归顺我，难道是觉得我比不上古代的贤君，没有容纳人才的度量吗？” 说完，孙权让身边的侍从用手巾帮潘濬擦脸，潘濬这才起身下床，向孙权行礼谢恩。孙权当即任命他为治中从事，荆州的军政事务，全都让他参与商议决策。
后来，武陵郡的部从事樊伷，煽动当地少数民族部落，打算把武陵郡献给刘备。有人向孙权建议，派一名督军率领一万人马去讨伐樊伷。孙权没有同意，特意召见潘濬询问对策。潘濬回答：“只要派五千兵马过去，就足够活捉樊伷了。” 孙权疑惑地问：“你怎么这么小看他？” 潘濬解释说：“樊伷出身南阳的世家大族，只会耍嘴皮子，其实根本没有真才实学。我之所以这么了解他，是因为以前樊伷曾给州里的官员办过宴席，结果等到中午，饭还没端上来，有十多个人等不及，自己站起来走了。从这件小事就能看出，他根本没能力办成大事，就像看侏儒只看一节就知道他的本事一样。” 孙权听了哈哈大笑，采纳了潘濬的建议，当即派他率领五千兵马出征，结果真的斩杀了樊伷，平定了叛乱。）
之后，潘濬升任奋威将军，被封为常迁亭侯。（《吴书》记载：芮玄去世后，潘濬接管了芮玄的兵马，驻守在夏口（今湖北武汉附近）。芮玄，字文表，是丹杨郡（今安徽宣城附近）人。他的父亲芮祉，字宣嗣，跟随孙坚征战，立下不少功劳，孙坚推荐芮祉担任九江太守，后来又调任吴郡太守，在每个职位上都有不错的名声。芮玄的哥哥芮良，字文鸾，跟随孙策平定江东，孙策任命他为会稽东部都尉，芮良去世后，芮玄接管了他的兵马，被任命为奋武中郎将，因功被封为溧阳侯。孙权为太子孙登挑选妃子时，大臣们都称赞芮玄的父亲芮祉、哥哥芮良，三代人都以品德、道义和文武才能闻名，于是孙权就娶了芮玄的女儿做太子妃。黄武五年（公元 226 年），芮玄去世，孙权特别惋惜。）
孙权称帝后，任命潘濬为少府（掌管皇室手工业、财政的官员），进封他为刘阳侯。（《江表传》记载：孙权曾多次去射野鸡取乐，潘濬劝谏孙权说：“天下还没平定，有太多重要的事要处理，射野鸡不是紧急事务，而且拉弓时弓弦可能断裂，箭括可能损坏，都容易造成危险，恳请陛下看在我的面子上，不要再射野鸡了。” 潘濬出宫后，看到孙权用来隐蔽射野鸡的帐幔还在，就亲手把它拆毁了。孙权从此再也没有射过野鸡。）
后来潘濬升任太常（掌管礼仪、祭祀的官员）。当时五谿地区（今湖南、贵州交界一带）的少数民族发动叛乱，势力盘根错节，孙权授予潘濬符节（代表朝廷权威，可自行决断军务），让他统领各路军队前去讨伐。潘濬在平叛过程中，该奖赏的绝不拖延，该惩罚的绝不姑息，法令严明，没人敢违抗。这次平叛，斩杀和活捉的叛军加起来有上万人，从此少数民族部落的势力大大削弱，武陵郡一带恢复了安宁。（《吴书》记载：骠骑将军步骘驻守在沤口（今湖南长沙附近），请求在各郡招募士兵，扩充自己的兵力。孙权征求潘濬的意见，潘濬说：“地方上有不少豪强将领，在民间横行霸道，危害百姓。加上步骘有名望权势，各地官员都巴结他，要是允许他招募士兵，肯定会出乱子，不能答应他。” 孙权听从了潘濬的建议。
中郎将豫章郡人徐宗，是当时有名的士人，他曾去过京城，和孔融有过交往。但徐宗作为儒生，行事放纵不拘小节，手下的士兵也纪律松散，不遵守军令，还经常带头做坏事，潘濬毫不犹豫地把他处死了。潘濬执法严明，不怕别人议论，类似的例子还有很多。
归义侯隐蕃，凭借出色的口才，受到不少豪杰的赏识，潘濬的儿子潘翥也和他有往来，还送给他粮食财物。潘濬听说后，非常生气，写信斥责潘翥说：“我蒙受国家的大恩，立志以死报答，你们在都城，应该想着恭敬顺从朝廷，亲近贤才、仰慕善行，为什么要和隐蕃这种投降的俘虏交往，还送他粮食财物？我在远方听到这件事，心里又震惊又羞愧，好几十天都闷闷不乐。这封信送到后，你立刻去使者那里接受一百杖的惩罚，还要把送出去的财物追回来。” 当时的人都觉得潘濬太小题大做，可没过多久，隐蕃果然图谋叛乱，被处死了，大家这才佩服潘濬有先见之明。
《江表传》记载：当时潘濬的姨表兄零陵郡人蒋琬，担任蜀汉的大将军。有人在武陵太守卫旌面前挑拨离间，说潘濬偷偷派使者和蒋琬联系，想给自己留条后路，投靠蜀汉。卫旌把这件事报告给孙权，孙权却说：“承明不会做这种事。” 当即把卫旌的奏表封好，拿给潘濬看，还把卫旌召回都城，罢免了他的官职。）
在此之前，潘濬和陆逊一起驻守在武昌（今湖北鄂州），共同负责留守后方的事务，后来两人又各自回到原来的职位。当时校事（负责监察官员的特务机构官员）吕壹玩弄权术，滥用职权，上奏弹劾丞相顾雍、左将军朱据等人，顾雍、朱据都被软禁起来，限制行动。
黄门侍郎谢厷在和吕壹聊天时，问他：“顾丞相的事怎么样了？” 吕壹回答：“情况不太好。” 谢厷又问：“如果顾丞相被罢免，谁会接替他的职位？” 吕壹没有回答，谢厷接着说：“难道是潘太常吗？” 吕壹过了好一会儿才说：“你说的差不多。” 谢厷对吕壹说：“潘太常一直对你恨得咬牙切齿，只是因为他在外地，没机会对付你罢了。要是他真的接替顾丞相，恐怕第二天就会收拾你。” 吕壹听了非常害怕，赶紧不再追究顾雍的事，把他放了。
潘濬请求回都城建业（今江苏南京）朝见孙权，想趁机会当面极力劝谏，揭发吕壹的罪行。等他到了建业，才听说太子孙登已经多次向孙权进言，却没被采纳。潘濬于是大摆宴席，邀请朝廷百官参加，打算在宴会上亲手杀死吕壹，自己承担所有后果，为国家除掉这个祸害。吕壹暗中得知了潘濬的计划，赶紧称病不去赴宴。此后，潘濬每次进见孙权，都会详细陈述吕壹的奸诈阴险。渐渐地，孙权对吕壹的宠爱越来越淡，后来终于下令处死了吕壹。孙权还主动承认自己的过错，责备大臣们没有及时进谏，这件事在《孙权传》中有详细记载。