1573년(선조 6)에 알성 문과 병과로 급제하여 예문관 검열을 지냈다. 홍문관 교리 재직 중 왕명에 따라 『십구사략』을 개수하였다. 1583년 번호가 침입해 경원부가 함락되자 이조정랑으로서 도순찰사 정언신의 종사관이 되었다.
유학 신급의 상소에서 조정의 권력을 마음대로 행사하는 인물로 지목되기도 하였다. 이후 직제학, 승지 등을 거쳐 1587년 평안도관찰사에서 면직되었으나, 변방 정세에 밝은 관리를 삼도에 파견할 때 경상도관찰사로 다시 임명되었다.
1591년 정철의 건저 문제에 대해 옥당에서 탄핵하는 차자를 올리려 했으나, 부제학으로서 사성 우성전의 집에 의논하러 가는 바람에 시간이 지체되어 올리지 못했다. 이 사건으로 인해 대사간 홍여순이 우성전을 탄핵하며 조정이 남인과 북인으로 분열되었고, 이 인물은 남인에 속하게 되었다.
임진왜란이 발발하자 경상우감사로서 진주를 버리고 거창으로 도피했다. 각 고을에 격문을 보내 백성들에게 피난을 알렸지만, 결과적으로 도내가 비게 되어 왜적을 방어할 수 없었다. 전라감사 이광과 충청감사 윤국형이 근왕병을 일으키자 겨우 100여 명의 군사를 이끌고 참여했으나, 용인에서 패배하였다. 이후 경상우도로 돌아갔고, 영남초유사 김성일에게 패전에 대한 질책을 받았다.
당시 의령에서 의병을 일으킨 곽재우와도 큰 불화를 겪었으며, 김성일의 중재로 갈등이 일시적으로 해소되었다. 그러나 전쟁 중 도피와 소극적 대응으로 인해 지방 주민들로부터 조급하고 각박하며, 싸우지 않고 도망쳤다는 비난을 받았다.
1592년 8월 한성판윤이 되었고, 이후 지중추부사, 우참찬 등을 거쳐 1596년에는 호조판서로서 전라도와 충청도에서 명나라 군대의 군량을 확보하기 위한 징수 업무를 맡았다. 이후 영중추부사에 올랐으나, 1613년 광해군 때 손자인 김비가 옥사에 연루되면서 탄핵을 받아 파면되었다. 사후 시호는 소의이다.