黄琼字世英,是江夏安陆(今属湖北)人,其父黄香在中国历史上颇为有名。黄香字文强,少时家贫,9岁丧母,侍奉父亲甚孝,天热时就用扇子将枕头扇凉,寒冷之日就用身体先把父亲的被子暖热,这些“孝行”在当时产生了极大的影响,使“天下无双,江夏黄香”一句民谚在世上广泛传播开来,其事迹还被收入在中国元代之后影响甚大的《二十四孝》。同时黄香也十分博学,文章写的很好,先为郡中小吏,最后官至朝中尚书令,生平收入《后汉书文苑传》中黄琼就是在父亲的言传身教下长大成人的,学到了父亲许多优良品质,并在父亲指导下精通了儒家经典。开始黄琼因父亲的原因被任命为太子舍人,但他以有病为由辞职不就。不久父亲病逝,黄琼按制服丧三年,期满后,太尉、太傅、司徒、司空、大将军五府都欲起用他为官,但连续几年都被他拒绝了。

汉顺帝永建(126-131)年间,朝中公卿多人共同举荐黄琼,于是诏令将黄琼与会稽人贺纯、广汉人杨厚一同作为应举之人,用宫中的车马接入京城应试。黄琼到纶氏(今河南登封)地界时,又声称有病不去了。有关部门欲追究其不敬之罪,但皇帝却有诏令下到县里命以礼慰问黄琼,然后将他送回,既然皇帝不许责罚,下面也就只好偃旗息鼓了。但以往征聘的处士大多没有太高的声望,时任议郎的名士李固平素就仰慕黄琼的学问和处事态度,得知了黄琼不肯为官的消息,就给他写了封情真意切的信,坚请其入朝,以使天下人知道处士的才华与水平。黄琼终于被说服了,于是进京对策,立即被拜为议郎,很快又升为尚书仆射。过去,黄琼随父在台阁(即“尚书”),熟悉了这里的惯例制度。他任职此处后,显得得心应手,处理公务练达果断,在朝上议事条理分明,有根有据,无人是他的辩论对手。

这个时期国内连年都有灾异现象发生,为此黄琼上疏汉顺帝说:“闲暇求卜,见卦位错谬,寒热相侵,阴暗之气几次占据优势,日光暗淡月光不精。本是天意如此,对比现实确实不虚。陛下应开藏书的府库,查查《河洛》书中是怎么讲的。同时命令史官将永建元年以前直到大汉初年所发生的灾异,与永建元年以后发生的灾异全部开列出来,看看孰多孰少。再令近臣儒士参与政务的处理,多见公卿,以察问得失,对于朝中那些无功德者应全部斥退罢黜。臣过去就向陛下谈过近年的灾异事,并推荐光禄大夫樊英、太中大夫薛包以及会稽人贺纯、广汉处士杨厚可当大任,但陛下尚未予以考察。臣又发现老处士巴郡的黄错、汉阳的任棠,年纪都已80多岁却仍有伯夷、叔齐、虞仲等大贤之志。应当将他们召至京师,以帮助陛下隆行教化天下之大道。”于是皇帝下诏令用公家的车马召黄错等进京对策。永和三年(138),天下大旱,黄琼又上疏皇帝说:“过去鲁国僖公执政时,遇到大旱灾,他即举出自己的六项过错以自责,从此躬行节俭,禁止别人通过宫内得到宠幸的女性来达到其目的。

放逐了郭都等13名谄媚奸佞的小人,杀掉了接受财物贿赂的赵祝等9名官吏,然后退居于南郊,于是天立刻下起大雨,解除了旱情。如今逢灾也应注重政务方面,对过去的有所改革和继承,一定要保持政务风气的勤勉与质朴,以改变百姓对官府的不良看法。另外,狱中囚徒关押的太多,许多还要一直关到死,这也足以伤害阴阳之和气,招致上天降下灾祸。如果改弊宽刑,将愿从善的囚徒立即释放出来。选用良谋治国,则可以使灾消福至。”奏疏奉上,皇帝在德阳殿接见了他,详细交谈之后,皇帝令中常侍将黄琼奏疏中所提的建议交各部门主管施行,不得延误。自从汉顺帝刘保即位以来,还从未举行过春耕前亲耕农田以奉祀宗庙之礼。黄琼便以国家大典不应长久废弃之理,上疏皇帝,举出历史上圣王先皇务农桑、行亲耕农田之礼的事例,同时引用《诗》、《书》、《易》中的名言,说明举行此礼的重要性。皇帝看了他的奏疏采纳其建议,从此开始举行亲耕农田的“籍田”礼不久,黄琼升任尚书令。他认为过去左雄上疏提的举孝廉之选,专用的儒学文吏,对于取士来说还不够全面,恐有遗漏。

于是上奏请求增加孝悌及能从事行政者等四种,被皇帝批准实行。另外,左雄过去建议举贤良为官,应先在官府中考试,然后再于宫中端门复试,后来尚书张盛上奏免除端门复试。黄琼再次上奏说:“复试的作法,能保证筛选的严格,防止滥竽充数者过关,不能更改。”皇帝同意了他的意见。后来黄琼出任魏郡太守,接着升任太常。汉桓帝和平元年(150),黄琼被召人宫中担任侍讲,负责给小皇帝刘志宣讲儒家经典。元嘉元年(151),黄琼升任司空。这年汉桓帝欲给独秉朝政的大将军梁冀以隆重的褒奖,诏令朝中年俸2000石以上高官开会讨论决定有关事项。特进胡广、太常羊溥、司隶校尉祝恬、太中大夫边韶等,齐声称颂梁冀的勋劳功德,认为对他的恩赏标准,应与周朝的周公相同,应将山川、土地以及土地上的农户一起赐给他。唯有黄琼独持异议,他说:“梁冀过去已因亲迎立陛下的大功,增加了3000食邑,还对其子梁胤也特加了封赏。历史上周公辅佐成王,制礼作乐,教化万民,使天下太平,所以成王才裂土封其于曲阜(今属山东),地方700里。而今封赏诸侯是以人户食邑为标准,不以土地里数为限。萧何初识高祖皇帝于泗水,即跟随明主立下平天下之丰功;霍光力挽狂澜,解救危局而兴国勋劳已在朝庭,但对他们也只是以多赐食邑加封,旌扬其功。