秦朝末年，
楚漢爭霸，
漢高祖劉邦最終取得了勝利。
漢王五年(西元前202年)十二月， 項羽被劉邦十面埋伏， 圍於垓下(今安徽靈璧縣東南)。
項羽突圍不成， 自刎於烏江(今安徽和縣東北的烏江浦)。 漢高祖劉邦當上皇帝後， 每天都去參拜自己的老父親。
誰知有一天當他又去參拜父親劉太公時，
卻見父親穿著一件舊襖，
手拿掃帚，
畢恭畢敬地迎接他。
劉邦大吃一驚， 急忙上前攙扶父親， 而劉太公卻連連後退。
劉太公說：“您貴為天子，
誰敢不敬?我雖然是您的父親，
也只是一個平頭百姓，
平頭百姓不敬皇帝，
是要被殺頭的。
我也不想為這事壞了天下的法紀。
”
漢高祖犯了愁，
對於怎樣才能不失禮度地對待自己的父親，
他一直想不出個好辦法。
後來，
有個大臣說秦始皇曾尊去世的父親為太上皇，
建議封劉太公為“太上皇”。
劉邦聽了這話大喜過望，
馬上舉行大典，
將劉太公扶上太上皇位。
皇帝的父親從此就被稱為“太上皇”，
這一叫法歷代沿襲下來。