晋吴郡吴县(今江苏苏州)人，字士瑶。左丞相琅邪王司马睿引为丞相参军。安东司马王导初至江左，欲结吴人，求与通婚，鄙而拒之。屡以疾辞官，大将军王敦请为长史，逼以军期，不得已从命。敦平，尚书令郗鉴奏佐敦者宜免官禁锢，温峤为之上表申理，转尚书左仆射，领本州大中正。苏峻反，因潜说匡术归顺，以功封兴平伯。迁尚书令，授光禄大夫、开府仪同三司，加散骑常侍。咸康六年(340)，王导等相继亡故，遂迁侍中、司空，自言“以我为三公，是天下无人”。谈者以为知言。虽为人主所贵，犹谦若布衣，所辟皆寒素有行之士。