作为一场旨在推动中国学术现代转型的学术文化运动，“整理国故运动”曾经在20－30年代的民国知识界风行一时，然而时至20世纪30年代中后期，它却终告衰歇。究其缘由，无疑是受到其自身发展的内在理路以及各种外部因素的影响。具体说来，这大致包含了以下几方面原因。
一、自身缺陷的内在制约
“整理国故运动”的衰歇原因，首先在于它受到了自身固有缺陷的内在制约，尤其是因为它始终拘泥于考据之学，从而不仅无法适应现代史学思潮的发展趋势，同时也无法满足当时人们日益增长的思想需求，这在胡适身上体现得尤为明显。
正如余英时所指出，“胡适学术的起点和终点都是中国的考证学”。[1]确实，胡适终其一生的学术研究都不脱考据色彩，甚至还可谓带有某种“考据癖”。譬如，1928年4月，他在游历庐山后，写了一篇《庐山游记》。在这篇游记中，他逐一考证了江西纸牌与徽州牌的不同、三叠泉发现之时间、开先寺的来历、归宗寺的传说等一系列问题。或许是自己也觉得其中的考据色彩过于浓重，他不得不在文末附注说：“我作《庐山游记》，不觉写了许多考据，归宗寺后的一个塔竟费了我几千字的考据！这自然是性情的偏向，很难遏止。……我们有历史考据癖的人到了这些地方，看见了许多捏造的古迹，心里实在忍不住。……我为什么要做这种细碎的考据呢？也不过‘心濆涌，笔手扰’，忍耐不住而已。”[2]由此可见，因为受到性情与思维惯性的牵引，胡适已形成了某种根深蒂固乃至难以自拔的“考据癖”，而这无疑大大限制了他“整理国故”的视野与成就。
其一，由于研究方法不脱考据，这势必造成他对一些不适于考证的问题无法加以深入的研究。梁漱溟便曾经批评胡适说：“他对佛教找不见门径，对佛教的禅宗就更无法动笔，只能做一些考证；他想从佛法上研究，但著名的六祖慧能不识字，在寺里砍柴、舂米，是个卖力气的人，禅宗不立语言文字，胡先生对此就无办法。”[3]冯友兰也客观评价说：“胡适的《中国哲学史大纲》对于资料的真伪，文字的考证，占了很大的篇幅，而对于哲学家们的哲学思想则讲得不够透，不够细。”[4]
其二，因为仅仅局限于考据学本身，而未能吸收社会科学的其它方法，胡适的考据成就其实也十分有限。唐德刚就曾直言指出：“用这些精密的方法，他可以发前人所未发，把古书里的‘言’字、‘汝’字……分析得头头是道。但是如果碰到……与制度史、社会史有关的字，他那套‘方法’便不够用了。……学者如罔顾社会科学的法则，而专门去倒训诂学、校勘学的字纸篓，那就所见有限了。”[5]
其三，由于陷入了个别史实的琐碎考证，胡适往往忽视了对通史的研究。他自己即曾说：他在二战之后暂留美国，“本意是想把我的中国思想史写成，但写到一个时期，往往被一些小问题牵引去做点小考证，这些小考证往往比写通史有趣味得多，于是我就往往入魔了。把写通史的工作忘在脑后，用全力去做考证 ”。[6]
更为关键的是，正如周予同所针砭的那样，“史料究竟只是史料而不是史，中国现代社会所企求于史学界的是新的史学的建立与新的史籍的产生，而决不仅仅满足于史料的零碎的获得”。[7]然而，因为过于注重个别史实的细节考证，一味笃信“见树不见林”的“实验主义”，笼统排斥一切“史观”，胡适显然无法揭示社会发展的客观规律，从而难以满足当时人们的精神需求。梁漱溟就批评说：“ 先生不承认封建制度、封建势力的存在，但……全不提出自己对中国社会的观察论断来，亦太嫌省事！中国社会是什么社会？封建制度或封建势力还存在不存在？这已成了今日最热闹的聚讼的问题，论文和专书出了不少，意见尚难归一。先生是喜欢作历史研究的人，对于这问题当有所提示，我们非请教不可。……我向不知学问，尤其不会作历史考证功夫，对此题非常感到棘困；如何能一扫群疑，昭见事实，实大有望于先生！”[8]但对于梁漱溟的这番质问，胡适却一直未能做出正面的回答。
与此同时，考据史学在胡适身上所暴露出的各种局限性，同样也贯穿了“整理国故运动”的始终。
其一，因为片面强调考据，导致了许多大学国文系课程明显偏重于训诂考据，而忽略了对文学本身的鉴赏。浦江清在1948年便曾经针对清华国文系的课程设置状况评论说：“照目下情形，中文系同学认为中国文学系课程中国太多，文学太少。就是说近于国学系，而非文学系。他们不喜欢训诂、考据，而他们所谓文学的观念乃是五四以后新文学的观念，对于古文学也很隔膜。为爱好文艺而进中国文学系，乃至弄到触处是训诂、考据，不免有‘误入’的感觉，简直可以说是受骗。 ”[9]
其二，正如英国著名历史哲学家柯林武德所指出的那样，“实证主义在它那工作的这一方面所留给近代历史编纂学的遗产，就是空前的掌握小型问题和空前的无力处理大型问题这二者的一种结合”。[10]确实，由于过于注重史料的整理，反对疏通与推论，“整理国故运动”在某些缺乏史料的问题上，难免显得无能为力。譬如，史语所虽在考古发掘方面取得了相当大的成绩，但是毕竟无法将中国上古史的原貌重新完全复原，而它又向来以所谓“存而不补、证而不疏”相标榜，以至于长期以来，一部完整的中国上古史始终付之阙如。有鉴于此，李济晚年就曾反思说：“历史学家在这一方面，就不能不用些想像的力量。说得简单一些，一个历史学家，不但应该根据科学的事实写历史，同时也应该用文学的手段写历史。……因此，我个人的意见，觉得要预备写一部中国上古史，我们不但要参照铁的事实，也需要若干活的想像。”[11]
其三，因为仅仅局限于考据，“整理国故运动”实际上只是以史料的考订整理为主，属于微观史学的范畴，它欠缺宏观上整体驾驭的能力，更不可能进行高层次的历史哲学思辨，这就很难达到其所谓“重新估定一些价值”的目的。关于这一点，牟润孙曾经十分尖锐地针砭说：“综观此一时期之史学，当其初也，沿袭五四以来之积习，仍多以考据为专业，而偏重材料。……治史者咸致力于寻求罕见之典籍文物，苟有所获，则不问事之巨细，题之轻重，旁徵广引、附会渲染以为文章。……今日史学之衰，在于舍义而言事，抑今之治史者，又往往以追寻琐屑之事为务，诚所谓未闻大道也。”[12]
