1949年4月，毛泽东与胡乔木在香山交谈
1958年8月在北戴河召开的政治局扩大会议，把1958年的钢产量指标提到1,070万吨，比1957年增加一倍;1959年则要求达到2,700万吨，争取3,000万吨。此后，“大跃进”发展到狂热境地。胡乔木作为中共八届中央委员会书记处候补书记，中央政治局秘书，势必也投入了“大跃进”的洪流之中。
接手陈伯达丢开的《红旗》
“大跃进”带来的种种问题逐渐暴露，从1958年11月第一次郑州会议起，中共中央、毛泽东开始纠正“左”的错误。胡乔木参加了这次会议。
郑州会议召开之前，毛泽东派陈伯达、张春桥到河北遂平，吴冷西、田家英到河南新乡，调查研究人民公社的问题。他提出宣传上要“压缩空气”，要实事求是。第一次郑州会议上，针对陈伯达、张春桥调查回来提出不要商品生产和商品交换、废除货币的错误主张，毛泽东进行了严肃的批评。毛泽东还批评了混淆集体所有制和全民所有制的界限以及急于向共产主义过渡的错误做法。会议期间，毛泽东给中央、省市、地、县四级党委委员写信，再次不点名批评陈伯达等“有一大堆混乱思想”。
陈伯达挨了毛泽东的批评，精神不振，以出去调查为名，不管《红旗》的事了。于是，胡乔木接手管《红旗》杂志，直到庐山会议召开。
未向毛泽东报告陈云意见
不久，11月下旬至12月上旬，毛泽东又在武昌先后主持召开中共中央政治局扩大会议和八届六中全会(通称“武昌会议”)。八届六中全会讨论修改了《关于人民公社若干问题的决议(草案)》和《关于1959年国民经济计划的决议(草案)》。关于人民公社的决议，主要锋芒是反“左”的，但仍然反映和肯定了人民公社不少“左”的、超越历史阶段的东西。会议决议中确定的1959年计划经济指标，按毛泽东“压缩空气”的精神作了调整。但由于当时总的指导思想还是要超英赶美，还是要“大跃进”，因而经过压缩后确定的1959年国民经济指标还是订得过高。
陈云头脑冷静。他看到四大指标水分太多，实际上是完不成的，主张不要在会议公报上公布。他要胡乔木把他的意见向毛泽东报告。胡乔木认为，全会已经开过，全都定好了，大家一致同意，讲了很多话，人都散了，不在报上公布同当时的势头很难适应;同时，也怕陈云因此而受主席的责备，就没有向毛泽东反映。
高指标根本行不通，带来的损失很大。1959年3月25日至4月5日，上海会议召开，最重要的议题是解决高指标问题。4月2日，胡乔木向毛泽东讲了1958年岁尾武昌会议时陈云提出四大指标暂时不要公布、不要写进会议公报的事。毛泽东听后很生气，狠狠批评胡乔木说，你不过是个秘书，对副主席的意见竟不报告!胡乔木立即做了检讨。会议最后一天，毛泽东讲话赞扬陈云，其中特别说到武昌会议陈云提出不公布四大指标的事，同时对胡乔木也表示了谅解。
在庐山会议上同情彭德怀
1959年7月2日至8月16日，庐山会议举行。7月14日晚，彭德怀给毛泽东写了一封信，陈述自己对1958年工作的看法。7月23日，毛泽东在全体会议上发表讲话，严厉指责彭德怀的信表现了资产阶级动摇性和右倾性质。由此，庐山上风云突变，本来纠“左”的中央政治局扩大会议变为大反右倾的八届八中全会。
胡乔木上山以来，他的同情在彭德怀、张闻天一边。在7月21日张闻天发言(为彭德怀的信辩护)之前，胡乔木已经感到山雨欲来，曾打电话给张闻天，叮嘱少讲一些。他同田家英，同所谓“湖南集团”诸人，如周小舟、黄克诚、李锐也有接触、议论。在毛泽东发起反击后，胡乔木同彭德怀、张闻天在庐山上的接触、交谈，同“湖南集团”诸人的议论，被揭发出来。在这场政治风暴中，胡乔木感到，他已经没有选择的余地了。
在当时，毛泽东像“斯大林晚年”这个说法，是庐山上最敏感的一个焦点问题。在8月10日下午参加第四组小组会旁听时，胡乔木作了表态性发言，批驳这样的观点。
没按刘少奇意见起草文件
1959年8月16日，八届八中全会通过各项决议。就在各项决议起草接近完成的时候，刘少奇主张批判彭德怀的问题只在小范围内进行，另外再发一个反“左”的文件。他要胡乔木先起草这个文件。胡乔木感到为难，说：这个事情是不是同毛主席先谈一下?刘少奇听了很不高兴，说：你写出来，我自然会去谈!胡乔木很为踌躇，没有下笔，找到彭真，请他同刘少奇说，终于没有写。胡乔木后来回忆说：“如果写出来，少奇同志也要牵进去。”
从1960年春天开始，胡乔木集中精力搞《毛泽东选集》第四卷的编辑工作。1961年1月，胡乔木奉毛泽东的指示，带领调查组赴湖南农村调查。3月15日，中共中央工作会议在广州举行。期间，胡乔木向毛泽东说了刘少奇在庐山会议时曾经提出写个反“左”文件的建议的事，毛泽东听后没有表示什么，只是说：“啊，有这回事!”
5月21日，中央工作会议在北京举行。胡乔木在湖南省调查太劳累，病了，还是坚持出席了会议。这次会议，有一件事对胡乔木来说相当重要。毛泽东就庐山会议时刘少奇提出写个反“左”文件的建议和武昌会议没有报告陈云建议那件事，责怪胡乔木：为什么不跟我说，副主席的话你有什么权力不报告?刘少奇在这件事上，对胡乔木也“批评得很厉害”。
胡乔木不报告自有其良苦用心。他受到这样严厉的批评，内疚、自责、委屈、苦恼。胡乔木带病坚持参加会议，不想受到这样严厉的批评，他的老毛病神经衰弱益发严重，再也无法正常工作。胡乔木报告了邓小平，中央决定让他休息。
纳闻 | 真实新闻与评述：胡乔木多次隐瞒毛泽东同情彭德怀遭痛批