그중 제가 잡은 건 22번이었습니다.
“테스트 40개 전부 통과했습니다.”
“그 파일은 어디서도 안 씁니다.”
“사본 두 개 다 고쳤습니다.”
AI 어시스턴트(클로드)와 매일 일하다 보면 이런 말을 하루에도 몇 번씩 듣습니다. 대부분은 맞습니다. 그래서 문제입니다. 대부분 맞으니까 확인하지 않게 되고, 틀린 한 번은 아주 매끄러운 얼굴로 지나갑니다.
어느 날 AI한테 “실수를 자주 하는 건 실수가 아니라 잘못이야"라고 말했습니다. 말해 놓고 보니 저도 할 말이 없었습니다. 몇 번 틀렸는지 세어 본 적이 없었거든요. 그때 장부를 만들었습니다.
규칙은 하나입니다. AI의 단정이 틀린 것으로 밝혀지면, 그 자리에서 한 줄 적는다. 적는 건 AI입니다. 무엇을 단정했는지, 실제는 어땠는지, 어떤 종류의 실수인지, 누가 잡았는지.
9주 동안 230건이 쌓였습니다. 종류는 넷으로 나눴습니다. 실행해서 재야 할 값을 문서나 기억에서 옮겨 온 것(A), 고장 난 측정기를 믿은 것(B), 일부만 보고 전체를 단정한 것(C), 기타(D).
- 가장 많은 건 “다 봤다"는 실수였습니다
230건 중 100건이 일부만 보고 전체를 단정한 경우였습니다. “그 파일은 어디서도 안 씁니다"처럼요. 거짓말이 아니라, 본 범위를 말하지 않은 겁니다.
- 잡힌 것 중 제 몫은 10%였습니다
AI 자신이 44%, 두 번째 AI 모델(Codex)의 독립 검토가 33%, 제가 10%를 잡았습니다. 다만 이건 잡힌 것 중의 몫입니다. 아무도 못 잡은 실수는 이 숫자에 없습니다. 제 작업 순서상 AI 확인과 Codex 검토가 먼저 돌고 저한테는 남은 것이 오니, 그 영향도 있을 겁니다(가설입니다). 사람 검토가 쓸모없다는 뜻은 아닙니다. 장부를 쓰기 전 기록에서 찾은 21건과는 모은 방식이 달라 비교할 수도 없습니다. 이건 실험이 아니라 집계입니다.
- 가장 위험한 숫자는 “0"이었습니다
한 번은 일괄 작업 요약이 “실패 0건"이라고 했습니다. 알고 보니 요약 프로그램이 존재하지 않는 칸을 읽고 있었고, 빈 값을 더하니 0이 나온 거였습니다. 고장 난 측정기의 0은 완벽한 결과와 똑같이 생겼습니다.(완벽하다고 말하는 것을 가장 의심해 봐야 한다는 것을 살면서 계속 깨우치고 있습니다)
그 뒤로 생긴 규칙이 음성 대조군입니다. “0건”이라고 말하기 전에, 같은 명령이 일부러 심어 둔 1건을 찾는지 먼저 봅니다.
- 규칙 대신 장치를 만들기로 했습니다
처음엔 틀릴 때마다 규칙을 한 줄씩 늘렸습니다. 규칙 파일만 길어졌습니다. AI가 그 글을 읽어 준다는 보장이 없으니까요. 그래서 같은 종류가 되풀이되면 글 대신 장치를 만듭니다. 숫자를 말할 때 범위도 말하는지 재는 검사기, “0건” 전에 심어 둔 1건부터 찾아 주는 도구, 위험한 작업 전에 늘 같은 다섯 칸 카드를 내도록 안내하는 절차 같은 것들입니다. 새 검사기는 자기 자신부터 시험합니다. 처음 만든 검사기는 점수를 실제보다 후하게 주고 있었습니다.
- 틀린 건 AI만이 아니었습니다
시험판을 써 본 분의 AI가 설치 도중에 멈췄습니다. 제 안내문은 “세 곳 밖에는 아무것도 쓰지 마라"고 했는데, 설치 명령은 네 번째 장소에도 쓰고 있었습니다. 틀린 건 안내문을 쓴 저였고, AI는 옳게 멈춘 거였습니다. 이 일은 사례집(CASES.md 6번)에 실었습니다.
그래서 공개합니다 — collab-os
장부 양식과 원인 분류표, 작은 파이썬 도구들, 원칙 10개짜리 헌장 템플릿, 위험한 작업 전에 멈추는 Claude Code 플러그인을 묶었습니다. 장부 원본이 아니라 집계 숫자와 방법을 올렸습니다.
되돌릴 수 없는 행동을 막는 도구는 이미 여럿 있어서, 게이트는 조연입니다. 공개 전에 비슷한 프로젝트 7개를 찾아봤지만, 사후 장부와 누가 잡았는지의 분류, “0” 앞의 대조군, 몇 주치 숫자를 함께 갖춘 곳은 찾지 못했습니다. 차이는 더 똑똑한 검사기가 아니라 기록이라고 생각합니다.
한계도 적어 둡니다. 한 사람이 자기 방식으로 만들고 써 온 것입니다. 플러그인은 아무것도 강제하지 않고, 건너뛴 단계를 보이게 만들 뿐입니다. 게이트가 제 컴퓨터 밖에서 스스로 얼마나 잘 뜨는지는 아직 재지 못했고, 시험은 macOS에서 했습니다(Linux는 일부만, Windows는 미시험).
https://github.com/inobaek-spec/collab-os
공개하는 가장 큰 이유는 피드백입니다. 외부에서 끝까지 써 본 사람은 아직 한 명뿐입니다. 설치하다 막힌 곳, 게이트가 떠야 할 때 안 떴거나 괜히 뜬 적, 장부를 직접 적어 본 경험을 GitHub 이슈나 댓글로 알려 주시면 다음 판에 반영하겠습니다.
그리고 궁금합니다. 여러분은 AI가 자신 있게 틀린 걸 어떻게 확인 하고 계신가요?
P.S. 더불어 이런 저런 추가적인 기능도 더하고 실험도 하고 있는데 어느 정도 검증이 되면 여기에 업데이트 할려고 하니 같은 고민을 하시는 분들은 언제든지 의견 환영 합니다.