日本不是沒有看到科舉制度的功用，也曾經試圖透過建立科舉制度來選才取士，但雖為近鄰，一衣帶水，日本與中國實則兩個完全不同的社會文化體系。兩個國家的文化交流，接受方既要有需要，又要有適宜的環境，之後，交流的成果才能在一段時間內生根、發芽、開花、結果。假如說接受的一方條件改變，失去生存的土壤，交流的需要便不復存在，則原先的交流成果便會枯萎。
有學者認為，日本在平安時代大規模吸收唐文化之後，在基本的社會秩序方面就已經開始脫離漢文化圈，迴歸固有傳統。也正因為如此，日本雖然曾經如飢似渴地學習過唐朝的各項典章制度，包括極力推行科舉制度，但完全一致的社會文化體系，使得科舉制很快便被日本所拋棄。
第一，日本貴族世襲制的封建統治體系，阻塞社會階層的縱向流動，從而剝奪了科舉制度最為關鍵的工具價值。科舉制度的功用是什麼？於民眾而言，在於“學而優則仕”，即透過教育和考試實現從平民到仕宦階層的飛躍。於統治者而言，在於得天下英才而用之，即突破血統世襲的壟斷勢力，網羅易於掌控的普羅大眾中的濟世之才，鞏固中央皇權的統治。說到底，科舉制度最大的工具價值是改變身份，開啟一條社會階層縱向上升的通道。中國自秦帝國以來，中央集權的統治思想和政治體系便逐步地深入骨髓。科舉制度既是中國從貴族門第社會到官僚社會的轉向過程的結果，也是主要推動力之一。皇帝將自己視為唯一的統治者，為了壓制貴族的勢力，不斷打破各個階層之間的界限，不拘一格選拔人才。
科舉制度便是在門閥士族走向衰落的背景下產生的，它提供了大批的平民官僚，滿足了皇帝的統治需求，之後更是成為中央集權統治體系中不可或缺的制度設計，以致於“朝代可以改，皇帝可以換，但科場卻不可不開”。
日本歷來採用世襲和血統制，自大和時代始，就有強大的貴族傳統，天皇賜姓、官位相當制、蔭位制、官職家業化等都是與世襲和血統制相匹配的特權。因此，大貴族始終擁有很大的勢力，早期有物部氏、蘇我氏等左右政權，後有藤原氏若干代控制朝廷，再晚有平氏。其政治勢力之強大，經濟力量之雄厚，社會地位之崇高，遠勝於中國的門閥士族。如藤原氏在全國擁有大片的莊園，在朝廷佔據無數的高官，又世代與天皇家聯姻。藤原道長的三個女兒都作了皇后，他躊躇滿志地歌詠：“此世即我世，如月滿無缺。”
這樣的情況下，不利於大貴族壟斷政權，而又使中下層民眾分享權力，躋身統治階層的科舉制度怎麼能長久呢？也正是因為日本固執地堅守著血統制，在貴族勢力逼迫和裹挾之下的軟弱天皇，雖總是搖搖欲墜，卻始終延續著萬世一系的神話。在中國，無論出身如何貧寒，都可以透過科舉考試，授官拜爵，成為帝王家的股肱之臣，做人上人。
不僅如此，整個家族也可借一人得道，飛黃騰達。因此，十年寒窗再苦也是值得的。而日本的社會流動僅僅侷限於階層內部，甚少縱向的不同階層間的流動，尤其是下級階層向上層社會上升的流動。貴族子弟透過官位蔭封制度即可得到較高的官位，而寒門子弟即使透過科舉考試獲得一官半職，其官位遠低於貴族子弟透過蔭封獲得的官位，更無實權可言。因此，無論是貴族子弟還是寒門子弟，科舉考試都缺乏吸引力。
第二，以武士階層和“四民制度”為代表的等級制度，固化了日本人的身份認可和集團意識，抑制了不同社會階層間，甚至是同一階層中不同身份之間的橫向流動的意願，形成了與科舉制度的價值訴求尖銳的矛盾衝突。日本人具有強烈的集團歸屬意識，這或許是因為只有集中在一起，才能抵禦島國的多災多難。日本人相信，個人應該歸屬於某一集團，個人價值的實現途徑主要體現在服從集團，只有這樣才能發揮最大的功力，獲得最大的利益。
因此，在日本“超越集體的價值絕對不會佔據統治地位”。現代日本人的集團意識體現在自己所供職的企業、機關以及求學的學校中，而古代日本人的集團意識則大多投射到自己所在的家族中。在此基礎上，天皇為贏得世家豪門的支援，為貴族賜姓用以鞏固貴族的身份地位。
而從12世紀末開始的長達700年的幕府統治時期，上至將軍下至各地封建領主都組織了為其效力的武士階層。正是靠著這個階層，幕府將軍壓抑天皇和貴族的勢力，建立起獨裁統治。為了維護武士階層的統治地位，幾代幕府均不斷強化社會等級制度，及至德川幕府時期，形成了“四民制度”。所謂“四民制度”，就是將全國居民分為士、農、工、商四個等級，士是武士，居四民之首；農通稱百姓，居次；工為手工業者，居三；商即商人居四民之末。從此“四民”不僅是職業的劃分，更是身份的區別，而且這種身份也是世襲罔替，不可僭越。
德川幕府為了保持作為其統治基礎的武士階層的穩定性，在規定四民制度的同時，還實行武士階層的長子繼承製，繼承的內容包括武士身份及與其相應的俸祿。幕府透過這種制度，用以防止因武士家產的分割繼承而使武士階層貧弱化，以致於動搖幕府的統治基礎。而其他的農、工、商階層也逐漸與武士階層一樣實行長子繼承製。
在四民等級制度和長子繼承製度下，不僅武士以外的等級被排斥在仕途之外，即使是出生於武士家族，如果不是長子也沒有繼承武士身份及相應俸祿的資格，他們必須自謀生路。在如此森嚴的等級觀念和制度下，整個社會就是一個從上到下的等級序列，每個人都處在一定的位置上，社會不允許各個階層之間的流動，哪怕是同一階層中不同身份之間的橫向流動。人們不能輕易也不會想要脫離自己原本所屬的位置和集團，突破所屬身份的個人生活限制。民眾逐步鞏固和認可了各階級間的差異和限制，人人都只能安於現狀，形成各得其所、各安其分的心態。強烈的集團意識和身份認可逐漸形成了日本人遵守秩序的國民特性。日本人喜好並且信賴他們那一套繁密的行為規範，不願意輕易打破這種平衡。
正如著名的美國文化人類學家本尼迪克特在其名著《菊與刀》中所指出的：“日本人對人際關係以及人與國家的關係所抱的整個觀念都是建立在對等級制度的信賴之上的。……日本人是從等級制度的觀點來看待國內問題，他們也用同樣的觀點來看待國際關係”。
時至今日，日本社會的人事任用制度仍然傾向於資歷制。而意圖透過其他方式，比如說科舉考試來改變自己的社會地位和身份，這種突出個人、僭越身份的價值訴求顯然與日本固有的觀念傳統有著強烈的矛盾衝突。因此，在中國發揮巨大作用的科舉制度移植到日本很快便奄奄一息。
