霍氏被族诛，宣帝亲政，检查尚书省，掖庭中一位名为则的宫婢，让她的丈夫上书，陈述曾经有护养宣帝的功劳。奏章下给掖庭令考问，则的供辞说当时丙吉知道情况。掖庭令把则带到御史府，给丙吉看，丙吉认识则，对她说：“你曾经犯过养皇曾孙不谨慎的过错，挨过板子，你哪里有功？独有渭城的胡组、淮阳的郭征卿有恩罢了。”丙吉分别上奏胡组、郭征卿供养曾孙的劳苦情况。

宣帝诏令丙吉寻找这两个人，她们已经死了，有子孙，都受到厚赏。宣帝下诏免去则的奴婢身份为庶人，赏钱十万，并亲自问丙吉，才知丙吉对自己有旧恩，而丙吉终究不肯说。宣帝认为丙吉很厚道，便下诏给丞相说：“朕低微时，御史大夫丙吉对朕有旧恩，他的德行很美。《诗经》说过：‘无有恩德不报答的。’应当封丙吉为博阳侯，食邑一千三百户。”准备封侯时，丙吉病重，宣帝准备派人加绶封地，赶到他活着的时候。宣帝担心丙吉一病不起，太子太傅夏侯胜说：“这个人不会死的。臣听说有阴德的人，一定享受他的快乐并影响到子孙。丙吉还没有得到报答就病得很重，但不是致命的病啊。”

后来，丙吉果然病好了，丙吉上书坚决谢绝封侯，陈述不应凭空名受赏，宣帝回答：“朕封您，不是空名，而您上书归还侯印，是显示朕不道德啊，天下太平，您还是集中精神，少思虑，延医吃药，自己保重。”丙吉任御史大夫时，与丞相魏相同心辅政，参与军国要务，宣帝十分看重他们。

魏相去世，丙吉接替魏相担任丞相，丙吉的掾史有罪过，不称职，丙吉就给他休长假，让他自己离开职位，终究没有查证落实的。门客中有人对丙吉说：“君侯做汉相，奸吏营私，然而没有受惩处的。”丙吉说：“如果三公官府有被惩处的官吏，我自己就不识大体了。”后来，代丙吉为相的，于是把它作为旧制，公府不惩处属吏，从丙吉开始。

丙吉病重，宣帝亲临丙吉府上问候，说：“您如有不测，谁可以代您？”丙吉推辞说：“群臣的德行才能，明主尽知，愚臣不能辨别。”宣帝反复询问，丙吉才顿首说：“西河太守杜延年精通法度，了解国家旧日的典章制度，从前任九卿十余年，郡里治理好，有才能而闻名。廷尉于定国执行法令细致公正，天下人认为自己不会受冤。太仆陈万年侍奉后母孝顺。这三个人才能都在臣之上，希望皇上考察。”宣帝同意丙吉的话，就答应了。

丙吉去世，谥号定，去世后，黄霸、杜延年、于定国、陈万年等人在官位都很称职，宣帝因此称赞丙吉知人。

宣帝因匈奴呼韩邪单于归降，回忆往昔辅佐有功之臣，乃令人画十一名功臣图像于麒麟阁以示纪念和表扬，丙吉位列其中。

丙吉之子丙显，在他死后袭封博阳侯，官拜九卿，却在任上与官属勾结，获得赃钱达一千余万，最终其罪被揭发。宣帝看在丙吉对自己有恩的份上，仅将丙显免职，削去食邑四百户，降封关内侯。后来，又用他做城门校尉，丙显死后，其子丙昌继承关内侯爵位。

汉元帝刘奭在位时，长安人伍尊的人上书申诉说明丙吉的功劳，请求恢复丙显被剥夺的爵位和食邑。

汉成帝时，整理旧功，认为丙吉旧恩最重，下诏给丞相、御史说：“朕听说奖励功德，使断绝的世系连接起来，这是重宗庙，扩大贤圣的途径。原博阳侯丙吉因旧恩有功而受封，祭祀断绝，朕很哀怜。奖励美德到子孙，是古今普遍适用的道理。现在封丙吉之孙中郎将、关内侯丙昌为博阳侯，以延续丙吉的香火。”于是，博阳侯国断绝了三十二年又继续承袭，丙昌将爵位传给子孙，直到王莽时才断绝。