1946년 8월 26일 강원도강릉시에서 태어나 1965년에 강릉고등학교를 졸업하고, 고려대학교에 차석으로 입학하여 1969년에 졸업했다. 김일수의 아버지는 광복 이후 민청 면 선전부장을 지냈고, 한국전쟁 당시 좌익에 가담하였으며 김일수가 초등학교 4학년때 사망했다.
1970년 제12회 사법시험에 합격하고 12기 사법연수원을 우수한 성적으로 수료하여 검찰 임용을 신청했으나 탈락 통보를 받자 법무부 검찰국장이었던 서정각을 찾아가 "어떻게 된 일이냐"고 물었으나 "자네 자질이나 성품으로 보아 교수가 더 어울릴 것 같네"라며 학계로 나갈 것을 권유하자 모교인 고려대학교에 있는 스승을 찾아가 당시 법대 대학원에 재학중이던 이종원 법무부 교정국장을 소개받고선 "연좌제로 신원조회에 걸렸다"는 사실을 전달받으면서 "부친께서 이미 돌아가신데다 부역 정도도 가벼우니 손을 쓰면 구제는 될 것"이라고 말하면서 "검사 세계에서 그 정도 흠이라면 인사상 불이익은 물론 공직생활 내내 불필요한 꼬리표를 달고 다닐 것"이라며 포기를 종용하여 1973년 사법연수원을 수료하고 서울시도림동에서 변호사 사무소를 개업했다.[1] 그해 5월에 숭의여고 음악교사 이신희를 만나 결혼했다. 변호사 사무실을 개업했지만 "좌절이 너무 깊고 상처도 너무 커서" 퇴근 후에는 TV를 보며 소일을 하면서 아내에게 투덜대자 "고작 이렇게 살려고 그 어려운 고시 공부를 했느냐"는 핀잔을 듣자 1973년 9월에 고려대학교 대학원 석사과정에 입학하여, 1976년 2월에 석사과정을 마쳤다. 이후 박사과정 등록 후 독일의 아데나우어 장학재단의 도움을 받아 독일로 떠났다. 1983년에 독일의 뮌헨 대학교에서 클라우스 록신(Claus Roxin) 교수에게 수학하고, 논문 〈형법에 있어서의 인간존엄의 의미〉로 박사 학위를 취득하였다. 이후 고려대학교에서 교수로 재직하고 있다.
1992년에 《한국형법Ⅰ(총론 상)》과 《한국형법Ⅱ(총론 하)》를 펴내고, 1994년에는 《한국형법Ⅲ(각론 상)》·《한국형법Ⅳ(각론 중)》을, 1995년에는 《한국형법Ⅴ(각론 하)》를 펴냈다. 총론 두 권은 총 1526면이고, 각론 세 권은 1952면으로 총·각론을 합쳐 ‘3478면의 초초대작’[2]이라는 평을 받았다.
한국형사정책연구원장을 지냈으며 2009년 7월 31일에 임기 3년의 경찰위원회 위원장에 임명되었다.
