가드레일
-
멀티프로젝트 Claude Code 설정 운영기 3편 - Edit는 줘도 commit은 못 준다AI 엔지니어링 2026. 8. 25. 07:40
무심결의 commit 하나가 다음 세션의 토대가 됐다여러 프로젝트에 Claude Code 설정을 얹어 8주쯤 운영했을 때 일이다. 한 세션에서 에이전트가 기능 구현을 끝내더니, 확인을 받지도 않고 그대로 commit까지 해버렸다. 나는 그걸 눈치채지 못한 채 세션을 닫았고, 다음 세션은 그 커밋을 이미 확정된 토대로 삼아 그 위에 또 빌드를 쌓았다. 되돌리려 했을 땐 히스토리 두 겹을 함께 풀어야 했다. 문제는 에이전트가 무능해서가 아니었다. 나는 "파일을 고쳐도 좋다"는 권한과 "그 변경을 git 히스토리에 남겨도 좋다"는 권한을 한 덩어리로 묶어 통째로 넘겨준 상태였다. 이 둘은 위험도가 완전히 다르다. 편집은 되돌리기 쉽지만, 커밋은 사건이 된다. 그날 이후 나는 에이전트 권한을 "역할" 단위가 아..
-
안 깎는 것이 실력이다 — 압축 도구가 거부해야 할 출력 (Scrooge 2편)AI 엔지니어링 2026. 6. 13. 17:42
🔗 scrooge1. 도입부 — 압축 도구의 진짜 위험은 "덜 압축"이 아니다압축 도구를 만들 때 본능적으로 좇는 목표는 "최대한 깎기"다. 그런데 출력 압축에는 일반적인 성능 최적화에 없는 위험이 하나 있다. 너무 잘 깎으면 사람이 다친다.예를 들어 LLM이 이런 출력을 내야 하는 상황을 생각해 보자. "이 명령은 데이터베이스를 복구 불가능하게 삭제합니다. 실행 전 백업을 확인하세요." 압축 규칙이 이걸 "DB 삭제 주의"로 깎았다고 하자. 토큰은 줄었다. 하지만 복구 불가능이라는 사실과 백업 확인이라는 행동 지시가 사라졌다. 사용자가 이 경고를 가볍게 보고 명령을 실행하면, 줄인 토큰 몇 개가 데이터 전체와 맞바꿔진다.그래서 잘 만든 압축 도구의 핵심 설계는 "어떻게 더 깎을까"가 아니라 "무엇을 ..