김부식의 증조할아버지는 신라 왕실의 후손이에요. 증조할아버지는 고려가 세워진 이후 경주 지방의 행정을 담당하는 관리가 되었죠. 김부식의 아버지 때에야 고려 중앙 관직에 진출해 개경(개성)에서 살게 되었지요.

김부식은 몸집은 크고, 검은 얼굴에 눈이 튀어나왔다고 전해요. 열네 살 무렵 아버지가 돌아가셔 그와 형제들은 홀어머니 밑에서 자라야 했지요. 그런데도 4형제 모두가 과거에 급제했어요. 그의 어머니는 훌륭한 어머니로 칭송 받았고, 왕은 매년마다 곡식을 내렸지요.

과거에 급제한 김부식은 점점 높은 벼슬을 하게 되었지요. 두루 공부해 학문에 대한 이해도 깊어졌고요. 1116년에는 송에 사신으로 가게 되었지요. 그는 여러 달 동안 송에 머물며 송 황제에게 극진한 대접을 받기도 했어요.