建安十三年（208年），開辟玄武池訓練水軍。六月，曹操廢三公，恢複丞相製度，並自任漢朝丞相。基本平定北方後，兵鋒轉而南向。

  七月，進軍南征荊州劉表。八月，劉表病死，其子劉琮接任荊州牧。九月，曹操大軍進至新野（今屬河南），劉琮以為無法抵擋，舉荊州之眾投降曹操。

  這時，官渡之戰後投奔劉表的劉備屯駐於樊城（今湖北襄樊），聽說劉琮投降，便率軍向江陵（今屬湖北）撤退。江陵為荊州重鎮，存有大量軍用物資。曹操聽說，怕江陵落入劉備之手，遂親率五千騎兵從襄陽（今湖北襄樊）疾馳三百裏，在當陽長阪（今湖北當陽東北）將劉備追上，大破其軍，隨後進占江陵。

  曹操在擊潰劉備後，乘勢想一舉鯨吞江東，孫權、劉備兩家在魯肅和諸葛亮等人的努力下，組成聯盟，孫權命都督周瑜率軍三萬，與劉備的兩萬人馬組成聯軍抵抗曹操。曹操自江陵東下，至赤壁（今湖北武昌縣西赤磯山）與孫、劉聯軍接戰不利，暫駐軍於烏林（今湖北洪湖縣東北，長江北岸鄔林磯），與對方隔江對峙。

  周瑜用詐降之計，命大將黃蓋率小戰船十艘，上裝柴草，灌以膏油，船頭釘上大釘，假稱投降，向北岸而進，至離曹營二裏之處時，各船一齊點火，然後借助風勢，直向曹軍衝去，曹軍大敗，舟船被燒。曹操率軍從華容道（今湖北監利西北）陸路撤回江陵。撤軍北還。