宋福州闽县三山（今福建福州市）人，字直卿，号勉斋，黄瑀第四子，为朱熹四大弟子之一，配享庙祀。
自幼聪颖，志趣广远。
年十七，父殁。
淳熙二年（公元1175年），黄榦往见刘清之求学。
清之奇其才，书荐于朱熹。
淳熙九年（公元1182年），熹以仲女妻之。
庆元六年（公元1200年）三月，朱熹病重，命黄榦收《礼书》底本，补辑成之；并手书与他决别道：「吾道之托在此，吾无憾矣。」以荫补官，历知新淦县、汉阳军、安庆府等、多有惠政。
吏治廉明，曾陈说抗金保民大计。
嘉定十年（公元1217年），调知安庆府，亲自督修郡城，备战守，保障安庆境内不受金兵侵扰，当地士民称赞道：「不残于寇，不滔于水，生汝者黄父也。」曾讲学于白鹿洞书院。
后召为大理丞，时边备废弛，忌者恐其直言边事，排挤致使归里，遂授徒著书以终。
晚年隐居于武夷，潜心闽学研究，世称「勉斋先生」。
绍定六年（公元1233年），诏赠朝奉郎。
端平三年（公元1236年）赐谥「文肃」。
清雍正二年（公元1724年），从祀于孔庙，又建黄勉斋祠于府学内。
著有《周易系辞传解》一卷、《仪礼经传通解续》二十九卷、《孝经本旨》一卷、《论语注语问答通释》10卷、《勉斋先生讲义》一卷、《朱侍讲行状》一卷、《勉斋诗钞》一卷、《黄勉斋先生文集》八卷、《晦庵先生语续录》四十六卷、《勉斋集》四十卷、《书传》、《易解》、《四书通释》等。