早期來自中國漳州和泉州的移民，為爭地盤而引發械鬥，在死傷慘重之後，雙方才深覺後悔，並共同商議建立老大公墓，後更名為老大公廟。所以每年到了農曆七月一日，鬼門開時便會以隆重的儀式，開啟鬼門來祭拜亡靈，也因此活動，讓老大公廟於七月普渡時，聞名全台。
台灣漳泉雙方的械鬥從清乾隆一直到道光，咸豐年間達到最盛。咸豐初年，基隆的漳州人和暖暖的泉州人以魴頂（今南榮公墓）為界，但彼此仍常因土地界限，水道灌溉、商業利益等問題結怨並發生衝突，甚至發生械鬥。
咸豐3年（西元1853年）基隆的108位漳州人一起去襲擊暖暖的泉州人，但事前被暖暖的泉州人知情，在魴頂設埋伏，將108人全部殲滅，此事件成為基隆史上最慘烈的械鬥傷亡事件。後來經協調，將108人合葬於蚵殼港河畔，當時稱老大公墓，西元1855年起由基隆金、雞、貂、石四堡11姓輪流主普，開關鬼門即在此進行。日治時期，原址建海軍宿舍，老大公墓被迫遷至現址，並於1984年升格為老大公廟。
老大公廟最主要的祭祀活動在農曆7月舉行，每年農曆7月1日下午時，會由廟宇管理委員會主任委員開啟龕門以象徵鬼門開，直到農曆8月1日於「火燒大士爺」與「跳鍾馗」的儀式中關龕門，交接手爐後中元祭結束。