「老天祿」本店創立於清末民初的上海，台灣「上海老天祿」創辦人蔡毓根12歲時，從江蘇老家到老天祿當糕點學徒，1949年國共內戰，他渡海來台，並與2名同鄉合夥在西門町開了老天祿。
1956年，老天祿拆夥，蔡毓根靠太太娘家贊助，在漢中街、現今真善美戲院對面，開了「上海老天祿食品號」。1966年遷到成都路現址，並成立「上海老天祿食品有限公司」，原始股東除了蔡毓根，只有太太、岳父共3人，而目前則有4個股東，分別是蔡毓根及長女、長子和次女。
上海老天祿原本專賣糕點，1970年代，蔡毓根太太蔡曾雪櫻請了1位廣東老師傅研發滷味，做出口碑，每天光是滷鴨舌就可賣出2、3千根。
至於原始「老天祿」另2位股東紹東壽、沈廣生，與蔡毓根拆夥後，在中華路的新生戲院（現址為錢櫃KTV）1樓開了另一家老天祿，紹負責糕餅部，沈則負責滷味部。1959年，現今武昌街老天祿創辦人謝玉泉退伍之後，來到老天祿當店員，3年後，沈有意結束滷味生意，謝便接手當老闆。
1978年新生戲院大火，老天祿大股東紹東壽決定收攤，移民美國，謝玉泉覺得可惜，於是頂下老天祿的字號，並遷到武昌街的現址營業。
武昌街老天祿賣的滷味，比上海老天祿還早，一樣是以鴨舌頭最紅，由於香港天王、天后藝人每到台灣必指定品嘗，也讓武昌街老天祿成為香港觀光客必到的熱門景點，生意興隆。
