据江边黄姓《卜卿公家谱》记载，倡议兴建黄氏宗祠的是族人黄学伊。黄学伊是明朝嘉靖二十五年（1546年）举人，中举后初任琼山县（今海南省内）教谕，后任江西抚州左堂、通判。琼山是名臣海瑞的家乡，黄学伊在琼山任职时便很欣赏当时未有“功名”的海瑞（1514-1587）。海瑞中举（1549年）出仕的几年后，黄学伊又与他同在江西一带为官，黄学伊在抚州任通判，海瑞在附近的兴国任知县，二人交往甚密。明隆庆六年（1572年）夏天，海瑞曾在黄氏宗祠住了一个多月。当时海瑞已被罢官，专门从琼山来探访闲赋在家的黄学伊，就近入住祠内。期间为黄氏宗祠书题楹联一副：“匡弼王公葵悃日倾沾雨露；忠诚赤子铎声时振彻云霄”。
黄氏宗祠首次重修是清咸丰九年（1859年），与族人黄龙韬有关。黄龙韬（1814年—1894年）清道光丙午（1846年）科武解元，任广州府台兼南（南雄）韶（韶关）连（连州）总镇，因征剿红巾军（何六起义军）、太平军有功，受朝廷封诰“振威将军”。为光宗耀祖，于咸丰九年（1859年）对祠堂进行重修。
黄氏宗祠正门是斗拱牌楼，属当时朝廷准许方可建造的一种高规格建筑。缘何获准建造排楼，在族谱之类未见记载。民间流传的说法是：黄学伊托海瑞帮忙，朝廷批准建造。
新中国成立后，黄氏宗祠曾一度成为东莞第七区政府的会堂、放电影的场所，稍后又改作榨糖、碾米、榨油作坊。
1959年夏天，东江河水急涨，祠堂的木料、牌匾包括海瑞题书的一副楹联木匾（硬木，长约4米、宽约0.4米）被作为抗洪应急物资，加固东江堤围险段，决堤时全部散失。文革期间，祠堂的牌匾、木雕及工艺构件被视作“四旧”，大部分被毁。
1992年，江边村民自发集资对祠堂进行重修。