譚希林是湖南長沙人， 曾就讀於湖南省立甲種工業學校附屬乙種工業學校、甲種工業學校機械科。
1925年， 17歲的譚希林入黨。 次年， 即1926年， 年僅18歲的譚希林考入黃埔軍校第五期， 畢業後跟隨葉挺將軍參加北伐戰爭。
俗話說士別三日， 刮目相待， 但誰能想到， 短短三年時間， 才21歲的譚希林便成為紅20軍代軍長兼第1縱隊司令。
不過， 譚希林能成為紅軍高級將領， 可不是運氣因素， 這三年他不知打過多少場硬戰！從27年參加秋收起義， 一路轉戰到井岡山， 又創建井岡山革命根據地的鬥爭， 參與指揮黃洋界保衛戰……
可以說，
許世友是上將， 而且排名靠前， 這就意味著， 55年授銜時， 譚希林也完全可以授銜上將。 可結果， 譚希林只被授予中將軍銜。 別人替他不值， 但譚希林卻不計較， 他說：“想想那些犧牲的戰友， 我已經夠幸運了！再說， 沒有軍銜就不能為人民服務嗎？”
其實， 譚希林原本確實可以被授銜上將， 但給他授中將也沒有虧待， 因為他擔任山東軍區副司令不久， 便改行做了外交官。
當時， 捷克斯洛伐克缺一個外交大使，
許世友也在一旁， 打趣道：“老譚啊， 你好歹是黃埔軍校畢業， 就算不懂外交， 也懂社交， 哪像我們這些山大王， 對社交也是一竅不通啊！”
總理讓譚希林幹外交大使， 也正是考慮到這點。 不然， 你讓許世友將軍做大使， 沒准人家一言不合就動武， 把人老外打得滿地找牙， 豈不影響兩國關係？
譚希林見總理信任他， 便也不再推辭， 走馬上任。 這一干， 就是4年， 1954年才回到軍隊。 因為曾離開軍隊一段時間， 才只被授銜中將。
但是， 軍銜可以低授， 戰功和資歷不能抹殺， 在授銜的同時， 譚希林又被授予三枚一級勳章， 分別是：一級八一勳章、一級獨立自由勳章、一級解放勳章。
離開外交崗位後， 譚希林歷任訓練總監部副部長、北京軍區副司令等職。 1970年， 譚希林將軍在北京去世， 享年62歲。