不是的，与国内大学没有太大关系。

如果要考日本的大学院（硕士课程），必须实现联系日本大学的教授。在联系过程中，教授会知道你大学时的所学是否与他的研究相符，或者是你是否适合他的研究室。如果他认为孺子可教，可能会邀请你进入他研究室当一年研究生（旁听生），补习日语同时参与他的讲习，补习专业知识，第二年参加正式的大学院考试。如果觉得你不合适或是不行，会婉言推辞。

当然，如果你是国内211或985大学，可能会有一点知名度（说实话，如果你教授没参加国际学会或发表什么的，日本教授是不会知道有你这所大学的，什么211，日本人就只知道北大清华复旦）