1950年3月17日，蒋擢升孙为陆军总司令兼陆军训练司令，三天后又加台湾防卫总司令，并许诺未来晋升其为三军总参谋长。一时间，孙立人成了蒋身边炙手可热的人物。但就在孙立人就任陆军总司令的同时，掌控台湾情治机关的蒋经国已经在蒋介石的授意下，将特务网络渗透至陆军总司令部。
3月23日，就在孙立人被任命为陆军总司令不到一周时间后，他的英文秘书黄正，以及黄正的姐姐陆军训练总部干部黄珏，便被蒋经国以莫须有的“泄露军机”罪名逮捕，判刑十年。接着，孙立人的旧部属李鸿、陈鸣人、彭克立等人也以“匪谍”罪被拘捕。
6月底，朝鲜战争爆发，美第七舰队协防台湾。这对岌岌可危的蒋介石来说，无疑是打了一剂强心针，台湾安全可保，孙立人的作用大加削弱。
1951年3月27日，蒋介石正式派遣蒋经国进驻陆军总司令部，组建陆军总司令部政治部，这等同于给孙立人派了一个监军。孙立人处处为蒋经国掣肘，成了有名无实的陆军总司令。
孙立人长期接受美式教育，而且个性孤高自傲，一贯不耻官场的相互倾轧、阿谀逢迎，对于蒋经国的政工系统就更为厌恶。而且作为一个职业军人，孙并没有太多的政治权谋，不善协调各方关系，胸无城府，这也使他与蒋经国及黄埔系将领关系日渐紧张。江南（刘宜良）在《蒋经国传》中提到：“孙是个非常优秀的带兵官，但是位很坏的领袖。讲人际关系，他和他的同僚几乎没有人可以合得来。任陆军总司令期间，每周军事汇报，从来未准时出席，其理由非常可笑：他不愿向周至柔总长敬礼，迟到即可避免，因为总统已经在场。”甚至连蒋经国向他拜年，他都不见。
郭案牵连 终遭罢黜
及至1954年，“美台共同防御条约”签署，台湾被正式纳入美国在远东的防卫圈中，台湾的安全得到极大的巩固。对于蒋介石来说，此刻的孙立人不但没有任何用处，相反还是威胁，尽管孙已经没有什么实权了。
这一年6月，孙立人被调任“总统府”参军长，明升实贬，彻底被解除了兵权。然而这还并不意味着结束，一场更大的阴谋正在酝酿当中。
1955年5月25日，在蒋的授意下，毛人凤将孙的旧部、步兵学校少校教官郭廷亮以“匪谍”为名逮捕，由此拉开又一拨整肃高潮，一周之后，台湾南部又爆发了所谓“兵谏案”。不到一个月的时间内，被拘捕的孙立人的旧部达到300多人，意在通过这些下属来寻找打击孙立人的突破口。
郭廷亮被捕4天后，蒋介石还故作无事地召见孙立人，据孙回忆：
