1923년 경남 남해에서 태어났다. 일제 강점기에 진주고보를 졸업한 후 징용을 피해 초등학교 교편을 잡았다. 법조인을 꿈꿨지만 가족들은 안정적인 직업을 그만두는 걸 반대했다. 결국 굳은 마음을 먹고 고려대학교 법과에 진학했고, 고시 공부에 매진해 고려대학교 법률학과를 졸업한 해인 1948년 제2회 조선변호사시험에 합격하며 법조인의 길로 들어섰다.

1950년 검사로 임용돼 대전지검 검사를 시작으로 서울지검 차장, 법무부 검찰국장, 대전지검장, 법무부 교정국장, 서울지검장, 광주고검장을 거쳐, 1980년 대검 차장을 끝으로 물러날 때까지 30년간 검찰에 몸담았다. 1981년 변호사 개업을 한 후에는 총 1만 5천 회가 넘는 무료변론에 나섰다.

1989년 고려대 교우회장을 역임하였고, 검찰 동우회장도 역임하는 등 활발한 사회활동을 펼쳤다. 그 외에 한국사찰의 편액에 관한 연구로 서예학 전공 문학박사 학위를 받았으며, '구름을 헤치고 세계가 부르짖는 인권', '억울타 난 죄없어(무죄변론집)' 등의 저서를 남겼다.

2003년에는 법률신문에 회고록을 연재해 화제를 모았다. 취미도 다양해서 수석 수집과 소형 영화 촬영 등에 능했다. 좌우명은 '활법제민(活法齊民)'으로 “변호사 본분인 사회정의란 것은 그렇게 거창하지 않고 변론을 통해서 힘없는 사람들이 피해를 입지 않게 도와주는 것”이란 말을 남기기도 했다.


2013년 90세의 나이로 사망했다. 아들 4형제를 두었는데, 모두 사업가이다.

검찰 후배인 박희태 전 국회의장이 “어려운 여건 속에서도 강한 의지를 갖고 성공하신 선배”라며 “무척 인자해서 따르는 선후배들이 많았고 검찰총장이 되실 걸 의심해 본 적이 없을 정도였다”고 회고했을 정도로 검찰에서 인망이 있었다.

서울지검장 시절인 1974년, ‘대통령 저격사건 수사본부’ 본부장으로 광복절에 발생한 고 육 여사 저격 사건의 수사를 진두지휘했다. 당시 수사와 관련 “문세광은 검거 초기 ‘전투하여 승리한다’는 북한식 문구를 사용하며 범행을 부인했지만 사형 전에는 ‘육 여사에게 사죄를 바란다’는 말을 남겼다”고 전했다.

1981년 변호사 개업을 한 후 인권변호사로 거듭나서 총 1만5000회가 넘는 무료변론에 나섰다. 억울하게 구속되거나 유죄판결을 받은 사람들에 대한 무료 변론을 펼쳐 무려 50여건에 달하는 무죄판결을 이끌어냈다. 그래서 ‘무죄판결의 대가’로 불리었다. 1983년 존속상해사건을 비롯해 1986년 폭력에 의한 권리행사 방해 등 피고사건, 1991년 사기 피고사건, 1992년 우유배달소년 살인 피고사건 등을 맡아 모두 무죄판결을 이끌었다. 그래서 서울 충무로에 자리잡은 그의 사무실은 힘없고 억울한 서민들을 위한 법률구조의 보금자리가 되었고, 그 공을 인정받아 2000년 국민훈장 무궁화장을 받았다.

1993년에는 “인권보호를 위해서는 상시변론이 가능해야 한다”며 사법사상 최초로 당직변호사제 도입의 산파역으로 나섰다.형사피의자와 피고인의 운명이 거의 대부분 수사단계에서 결정되므로 당직변호사제를 통해 불법연행, 가혹행위 등 인권침해사례를 예방해야 한다고 주장한 것이다. 이어서 일본의 사례수집과 국내 경찰서, 구치소 등에서의 수사실태 등을 파악한 뒤 이를 토대로 당직변호사제도 시행에 대한 구체적인 계획을 수립해 1993년 5월 320명으로 구성된 당직변호사단을 결성했다. 이 제도는 수사단계에서 변호사의 조력을 받을 수 있는 초석이 됐으며 국민들의 인권보장 창구로서 그 몫을 다하고 있다.

그 후 형식적이던 국선변호사제도가 실질적인 성과를 거둘 수 있도록 제도 보완에 힘썼다. 국선변호를 집중적으로 담당할 수 있는 국선변호특별위원회를 마련하고 국선변호료를 현실화해 형사피고인들이 보다 질 높은 변호를 받을 수 있도록 했다.

한편 사법연수생들의 변호사실무지도 강의에도 적극적으로 참여해 법조 후진양성을 위해서도 노력했다.