갈기대신 김흥근(金興根)의 아들이고 자는 성일(聲一), 호는 약산(約山)이다. 아버지(興根) 갈기대신이 살던 웃 갈기에서 살았다.
병덕은 약산대신이라고 부른다.
1847년(헌종13) 정시문과에 급제했다. 이때만 해도 안동김씨의 세력이 여운을 남기고 있어 조정에는 각 부서마다 안동김씨가 자리 잡고 있던 때이다. 김병덕의 아버지 흥근은 요직에 있을 뿐 아니라 김수근(金洙根), 김좌근(金左根) 등이 판서급에 있으며 정상(頂上)을 향해 줄달음질 치고 있었을 때이다. 1854년(철종5) 이조참의(吏曹參議)로 승배되었고 직제학을 거쳐 1858년(철종9)에 이조참판으로 뛰어 올랐다.
이때 영의정에는 김좌근(金左根), 호조판서에는 김병국(金炳國), 직제학(直提學)에는 김병주(金炳?), 규장각제학에는 김보근(金輔根), 경기관찰에는 김병운(金炳雲)이었다.
1860년(철종11) 이조판서가 되었다. 호조판서는 김병익(金炳翼)이었다. 같은 해에 의정부 우참찬(議政府 右參贊)으로 전직되었다가 1863년(철종14)에 예조판서가 되었다. 1866년(고종3)에는 대사헌(大司憲)이 되고 1867년 이후에는 이조판서를 세 번이나 지냈다 이어서 병조판서를 거쳐 1880년(고종17) 통리기무아문당상(統理機務衙門堂上)이 되고 이후 평안도 관찰사, 수원부유수, 독판군국사무(督辦軍國事務)를 역임한 후 1884년(고종21) 우의정에 올랐다.
1885년(고종22) 좌의정이 되었다.
1890년(고종27) 치사(致仕)해서 봉조하(奉朝賀)가 되었다. 청렴결백하여 명재상으로 칭송되었다. 그리하였기에 고종조(高宗朝)에 이르러서 세도 김씨(勢道 金氏) 문중에서 여러 사람들이 벼슬을 떠났어도 약산대신은 조신(朝臣)들의 신임을 받아 건재하였다. 치사 후 일동면 수입리 갈기 옛집에 와서 살았는데 부자가 대신(大臣)이라서 흥근(興根)을 노대신(老大臣), 병덕(炳德)을 소대신(少大臣)이라 불렀다. 약산대신(約山大臣)이 일동에 와 있을 때 중암 김평묵(重菴 金平?) 선생이 일동 운담(雲潭)에 기거 한다는 소식을 듣고 대학자 중암(重菴)이 우리 고장에 계시니 우리 고을의 영광이라 하며 매년 계속해서 양식과 생활비를 보내주었다 한다.
묘는 일동면 기산리에 있고 시호(諡號)는 문헌공(文獻公)이다.