1901年(光绪二十七年)秋间，留日学生日益增多，为加强各省留日学生之间的联系，留日学生发起组织中国留学生会馆。会馆设于东京神田骏河台。吴禄贞把它比喻为“美国费城之独立厅”。接着各省留日同乡会相继成立，到1905年(光绪三十一年)留学生会馆改为留学生总会，各省同乡会成为总会的各省分会。此后，留学生“常常聚会， 纵谈政治”，并创刊《醒狮》作为总会机关报，留日学生总会遂成为留日学生的领导机关。