元末明初凤阳定远(今属安徽)人，初名国宝。江阴侯吴良之弟。元末参加朱元璋起义军，积功至天兴翼副元帅。助兄守江阴，破张士诚水寨，授英武卫亲军指挥使。从围平江(今苏州)，进大都督府佥事。以副将从汤和击降方国珍。洪武元年(1368)进军破延平，俘陈友定，拜吴王左相。三年练军海上，封靖海侯。五年，发大兵戍辽东，总舟师数万转运军饷，兵食不乏。七年讨倭寇，追至琉球大洋。后总理海道军务数年，海上无寇。卒封海国公。