晋鄱阳(今江西波阳)人，字士行。吴亡后，徙家寻阳(治今湖北黄梅西南)。少孤贫，初为县吏，庐江太守张夔召为督邮，察孝廉。荆州刺史刘弘辟为南蛮长史，先后平定张昌、陈敏之乱。琅邪王司马睿以为奋威将军，迁龙骧将军、武昌太守。杜弢乱起，被左将军王敦表为荆州刺史。弢平，敦忌其功，转为广州刺史。在州无事，恐过于优逸，朝夕运百砖于室内外。太兴初，进号平南将军。王敦举兵反，诏以本官领江州刺史，寻转都督、湘州刺史。敦平，迁都督荆、雍、益、梁州诸军事，领护南蛮校尉、征西大将军、荆州刺史。苏峻、祖约起兵反晋时，为平南将军温峤等推为盟主，共讨破之，收复建康(今江苏南京)。迁侍中、太尉，封长沙郡公。后将军郭默矫诏袭杀江州刺史刘胤，即进兵讨斩默。晚年深以位高权重自惧，不预朝政，屡告老归国。咸和九年(334)，以疾上表逊位，将归长沙，寻卒。在军四十一年，善决断，有政绩，恶浮华，不喜清谈，常勉人惜分阴，造船时竹头木屑皆储藏备用，为后世推重。

陶侃