의견 · 2026.10.08
LLM에는 다음 할 일을 '정하게'만 하고 실행은 결정론적 하네스에 맡겨라 — 클러스터 재시작이 매번 똑같아진다
Brains vs Hands: How to Run AI Agents Safely in Production — Viren Baraiya — AI Engineer (컨퍼런스) · 원문 보기 ↗
얻는 것
- 프로덕션 재시작·롤백 같은 위험 작업이 매 실행마다 동일한 절차로 수행된다
- 사람 승인 게이트가 모델의 판단이 아니라 하네스의 보장된 실행으로 걸린다
- 며칠~몇 달 도는 루프도 장애 후 복구되고, 부수효과가 기록으로 남는다
이럴 때
프로덕션 클러스터 재시작·배포 롤백처럼 매번 똑같이 실행되어야 하는 운영 작업을 에이전트가 건드릴 때, 그리고 로그·알림 이벤트에 반응하거나 스케줄로 도는 백그라운드 에이전트, 며칠~몇 달간 사람·외부 서비스 응답을 기다리는 장기 실행 하네스에 적용한다.
이렇게
- 에이전트를 단일 컴포넌트가 아니라 시스템·사람·도구가 함께 도는 애플리케이션(하네스)으로 설계한다.
- 하네스 안에서 비결정적 부분(LLM 추론)과 결정론적 부분(결제·클러스터 재시작 같은 작업)을 명확히 갈라 둔다.
- 루프마다 완료된 작업·기록된 부수효과·성패를 담은 '세상의 상태'를 유지하고, 그 상태와 목표를 근거로 LLM이 다음 단계를 계획하게 한다.
- 프로덕션 클러스터 재시작처럼 위험한 작업에는 Slack 메시지 같은 사람 승인 게이트를 하네스가 보장 실행하도록 넣는다.
- 단계는 멱등으로 만들고, 멱등이 아니면 무엇이 일어났는지 기록해 부수효과를 따로 처리한다.
동의·보류 지점
계획과 실행의 경계를 긋자는 주장, 특히 승인 게이트와 멱등성을 모델 판단에 맡기지 말라는 대목은 그대로 받아들일 만하다. 다만 '모든 분기를 미리 못 짜니 에이전트가 런타임에 조립한다'는 전제는 도구 수가 적고 경로가 뻔한 작업에선 과한 구조일 수 있어 보류해 둘 지점이다. 데모가 미리 짜인 시연이라는 점도 발표자 스스로 밝혔으니 실측은 직접 해 봐야 한다.
링크
배경 — 원문은 이런 이야기
Netflix Conductor를 만든 Viren Baraiya가 AI Engineer World's Fair 2026에서 프로덕션 에이전트 운영을 이야기한 발표다. 챗봇 예제를 넘어 스케줄·이벤트·장기 실행·멀티 에이전트까지 보면 에이전트는 부품이 아니라 애플리케이션에 가깝고, 그 둘레를 감싸는 하네스가 사실상 마이크로서비스 묶음처럼 보이기 시작한다. 그는 이를 런타임에 조립되는 '늦게 묶이는 사가'로 부르며 SRE 에이전트 데모로 보여 준다.