年轻时期的曹操机智警敏，擅长随机应变，而且任性好侠、放荡不羁，不修品行，不研究学业。
因此，当时的人不认为他有什么特别的才能，只有梁国人桥玄和南阳人何颙认为他不平凡。
桥玄对曹操说：“如今天下将要发生动乱，非命世之才不能解救，能够安定天下的，岂不是你吗？”
南阳人许劭以知人着称，他也曾评价曹操为“太平时的奸贼，乱世时的英雄”。
曹操早年就表现出对武艺的爱好与才能，博览群书，尤其喜欢兵法。
曾经抄录古代诸家兵法韬略，还注释过《孙子兵法》，这些为他后来的军事生涯打下了稳健的基础。
熹平三年（174年），曹操被举为孝廉，入京都洛阳为郎。
不久，被任命为洛阳北部尉，洛阳为东汉都城，是皇亲贵戚聚居之地，因此很难治理。
曹操一到职，就申明禁令、严肃法纪，造五色大棒十余根，悬于衙门左右，“有犯禁者，皆棒杀之”。
汉灵帝宠幸的宦官蹇硕的叔父违禁夜行，曹操毫不留情，将蹇硕的叔父用五色棒处死。
于是，“京师敛迹，无敢犯者”。
曹操也因此得罪了一些当朝权贵，他们难以中伤曹操，只得以举荐为名，将其明升暗降，外调为顿丘县令。
光和元年（178年），曹操因堂妹夫濦强侯宋奇被宦官诛杀，受到牵连，被免去官职。
其后，在洛阳无事可做，便回到家乡谯县闲居。
光和三年（180年），曹操又被朝廷征召，任命为议郎。
此前，大将军窦武、太傅陈蕃谋划诛杀宦官，不料其事未济反为宦官所害。
曹操上书陈述窦武等人为官正直而遭陷害，致使奸邪之徒满朝，而忠良之人却得不到重用的情形，言辞恳切，但没有被汉灵帝采纳。
光和五年（182年），朝廷令公卿按民谣检举刺史、二千石为害之人。
当时，太尉许戫、司空张济看着宦官的脸色行事，收取贿赂。
宦官子弟宾客，贪污卑鄙，许戫与张济不敢过问，却虚报纠举二十六个处于边远小郡清廉惠政的人。
官吏和百姓到京师申诉，陈耽和曹操上书：“公卿的检举，大都包庇各自的私党，是所谓‘放鸱枭而囚鸾凤’。”
其言忠切，汉灵帝因此责备许戫和张济，并将因谣言而被问罪的官员全部拜为议郎。
而后，东汉朝政日益腐败，曹操知道无法匡正，便不再进言。
中平元年（184年），黄巾起义爆发，曹操被拜为骑都尉，受命与左中郎将皇甫嵩等人合军进攻颍川的黄巾军。
右中郎将朱儁先到，与黄巾军波才部作战，失败，皇甫嵩退守长社。
面对波才的围困，趁夜纵火出击，使黄巾军惊乱后撤。
此时，曹操率军赶来，联合皇甫嵩、朱儁大破黄巾军，斩首数万级。
不久后，曹操调任济南国国相，在任内治事如初。
济南国有县十余个，各县长吏多依附贵势，贪赃枉法，无所顾忌，曹操之前历任国相皆置之不问。
曹操到职，大力整饬，一下奏免十分之八的长吏，济南震动，贪官污吏纷纷逃窜。
“政教大行，一郡清平”，而当时正是东汉政治极度黑暗之时。
朝廷征还曹操为东郡太守，拜为议郎。
曹操不肯迎合权贵，遂托病回归乡里，春夏读书，秋冬弋猎，暂时隐居了。
当时天下纷乱，发生了冀州刺史王芬联合南阳许攸、沛国周旌等地方豪强，谋划废黜灵帝立合肥侯的事件。
王芬等人曾希望曹操加入他们，但被曹操拒绝。
曹操在推辞的理由中说：“废立皇帝是天下最不祥的事了。古时有衡量轻重、计算成败而后施行的人，伊尹、霍光便是如此。这两个人都怀着至忠的诚心，以宰相的地位，凭借执政大权，加上同众人的愿望一致，故此能实现计划，成就大事。如今，各位只看到他们当初的轻而易举，而没有看到现在的困难。用这种非常的手段，想一定达到目的，难道不觉得危险吗？”
后来，王芬果然事败自杀。
又有西北金城郡的边章、韩遂杀死刺史和太守，率兵十余万反叛朝廷，天下为之骚动。
中平五年（188年）八月，汉灵帝为巩固统治，设置西园八校尉，曹操因其家世而被任命为八校尉中的典军校尉。
中平六年（189年），汉灵帝驾崩，太子刘辩登基，何太后临朝听政。
大将军何进想趁灵帝驾崩、宦官失势之机诛灭十常侍，但没有取得何太后的支持。
于是，何进采纳袁绍的建议，不听陈琳的劝谏，便征召停留在河东郡的边将董卓率其部众进京，以便于胁迫何太后同意诛杀宦官。
曹操得知后笑道：“阉竖之官，自古至今都有，只是世主不应该把权力交给他们，使他们达到这种程度。既然要治他们的罪，那么只需要诛杀元凶，派一个狱吏就足够了，何必纷纷召外地将领入京？如果要对宦官赶尽杀绝，事情必定会泄露出去，我已经料到他会失败了。”
董卓尚未抵达京城，何进已被宦官下手谋杀。
同年九月，董卓入京，执掌朝政，把汉少帝废为弘农王，而改立其弟陈留王刘协，即汉献帝。
又派人把弘农王母子毒死，自称太师，专擅朝政。
曹操见董卓倒行逆施，不愿与其合作，遂改易姓名逃出洛阳。
曹操到陈留后，“散家财，合义兵”，且首倡义兵号召天下英雄讨伐董卓。
初平元年（190年）正月，后将军袁术、冀州牧韩馥、豫州刺史孔伷、兖州刺史刘岱、河内太守王匡、渤海太守袁绍、陈留太守张邈、东郡太守桥瑁、山阳太守袁遗、济北相鲍信等人一同举兵于关东，袁绍被众人推为盟主，曹操行奋武将军。
当时，袁绍屯河内，袁术屯南阳，孔伷屯颍川，韩馥在邺城，张邈等人屯酸枣。
二月，董卓胁迫献帝迁都长安，自己则焚毁宫室，挖开王陵，劫掠人民，致使洛阳方圆两百里荒芜凋敝无复人烟。
而关东联军惧怕董卓精锐的凉州军的战力，无人敢向关西推进。
曹操说道：“我们举义兵是为了除暴乱，如今大军已合，诸位还有何虑？如果董卓得知山东起兵后，仰恃天子的圣威，占据洛阳一带的险要地方，遣兵东进控制天下，尽管他的行动是不道义的，对我们来说仍然是很大的忧患。但现在董卓焚烧宫室，劫持天子西迁，海内震动，百姓不知归属，这是上天要董卓灭亡的时候，一战而天下可定，机不可失。”
于是，曹操引军西进，即将进据成皋，张邈也派部将卫兹分兵跟随曹操。
曹操行至荥阳汴水，与董卓大将徐荣交锋大败，士卒死伤甚多。
曹操自己被流矢所伤，所骑战马也受了伤，曹操的堂弟曹洪将马让给曹操，才使曹操幸免于难。
徐荣见曹操虽众少却能力战许久，认为酸枣不易攻下，也引兵撤回。
当时，诸军兵十多万，日日置酒高会，不思进取。
曹操回至酸枣后，出言责备他们，并向联军建议：“诸君听我之计，让渤海太守引河内之众兵临孟津，酸枣众将取成皋、据敖仓、封堵轩辕、太谷，将险要之地全部占领；袁将军率南阳大军进军丹、析，攻入武关，震动三辅。然后我们都深沟高垒，不与董卓交战，并更设疑兵，让天下看到我们的优势，让天下加入我们讨伐逆贼，如此天下可以立马平定。如今我们举兵是为了大义，却迟疑不肯进，令天下失望，我为诸位感到羞耻！”
结果，关东诸将却不肯从。
关东诸军名为讨董卓，实际各自心怀鬼胎，意在伺机发展自己势力。
不久，诸军之间发生摩擦，相互火拼。
至此，联军解散。
荥阳之战后，曹操兵少，于是与夏侯惇等人前往扬州募兵。
扬州刺史陈温、丹阳太守周昕给了曹操一共四千多名兵士。
曹操回军到龙亢时，大部分士卒都背叛了。
到了轾、建平，曹操又重新招募一千多士兵，进驻河内郡。
袁绍与韩馥谋立幽州牧刘虞为帝，曹操对袁绍说：“董卓之罪，暴于四海，我们集结大众、兴义兵，远近无不响应，正因为我们的行动是正义的。如今幼主微弱，受制于奸臣，却没有昌邑亡国之兆，而一旦改易天子，天下人怎么接受？诸君北面称臣，我自西向。”
袁绍还曾经得到一枚玉印，一次曹操在座时，袁绍把这块玉印推到他的肘边，曹操表面大笑，内心却十分厌恶。
后来，袁绍、韩馥还是决定立刘虞为帝，但刘虞始终不肯接受。