晋琅邪阳都(今山东沂南南)人，字道明。魏司空诸葛诞之孙。弱冠知名，试守即丘长，转临沂令。西晋末渡江，与荀闿、蔡谟皆字道明，号为“中兴三明”。安东将军司马睿以为主簿，迁江宁令。讨周馥有功，封博陵亭侯，迁从事中郎，兼统记室。任会稽太守三年，政绩第一。明帝以为侍中，加奉车都尉，出征王敦。又讨王含有功，进封建安伯，累迁尚书右仆射。康帝即位，加侍中。