毛主席率领部队上井冈山后，他便不辞辛苦的宣传发动群众，在一次宣传活动中，他被地主的武装给包围了，虽然当时未表露身份，可是也危机重重，谭希林得知后，赶紧组织他们连去营救毛主席。地主武装战斗力不强，见谭希林来势汹汹后就胆怯了，在谭希林开枪后他们就惊做鸟散，为毛主席解了危。从此谭希林就被战友们誉为“救驾将军”。

毛主席写诗赞誉，一炮救了井冈山

在黄洋界战斗中，他也立下了奇功，在黄进琪先生写的《从“救驾将军”到驻外使节》一文中说，有着这样子的记载，当时湘军向黄洋界发起猛攻，有人说:“要是有门炮就好了。”在场的贺子珍说:“茨坪军械所有一门缴获的迫击炮。”说着，她从阵地上叫上哥哥贺敏学和谭希林等，几个人顶着烈日把150斤重的迫击炮抬上黄洋界。

谭希林亲自指挥装填发射，炮弹像长了眼睛一样，正好打进敌人指挥所，湘军指挥官应声倒地，敌军一片混乱。敌人误认为朱、毛率领红军主力回到井冈山，命令部队后撤。就这样，红军以不足一个营的兵力，凭险击溃两个团敌人的进犯。毛泽东听到黄洋界战斗胜利的消息，十分高兴，挥笔写下了“黄洋界上炮声隆，报道敌军宵遁”的著名诗句。

1949年隆冬，时任山东军区第一副司令员兼参谋长的谭希林正准备落实军区党委计划，接到中央军委的命令和中央组织部的调令，让他迅速交出手中的工作，到北京外交部报到，另有任用。周恩来总理在全军范围内抽点了不到15位兵团级领导到外交部，这可是当时不得了的大事。

山东军区司令员许世友和政委康生找谭希林谈话时，谭希林还有点茫然，毕竟是军人出身，打了半辈子仗，对武器弹药和战场上的弥漫硝烟感兴趣，而对文质彬彬的外交工作十分生疏。

后来，在原清朝“总理各国通商事务衙门”的老楼、现今外交部的办公楼里，周恩来一见到比自己小整整10岁的谭希林，就高兴地说:“希林同志，你正是精力旺盛的时候，可以大干一番全新的事业呀!