[ AI/Harness ]하니스란 말은 무엇인가? (feat. LLMs 외 전부)

const Harness = 계획 + 가드레일 + 도구 연결 + 대화 관리 + 프롬프트 시스템을 합친 것

 

"몸 전체"이나 "틀"이라는 비유는 개념 전달에 효과적이지만, 공식 문서에서 쓰이는 포현은 아니다. 하니스라는 용어 자체가 원래 "말에 씌우는 마구"에서 유래하여 모델의 힘을 구조화된 방향으로 이끌어내는 틀이라는 의미가 존재.

 

하니스란?

AI 모델이 외부 환경과 상호작용할 수 있도록 돕는 인터페이스/프레임워크

Anthropic은 Claude Agent SDK를 general-purpose agent harness로 지칭하며, 코딩 및 도구 사용 작업에 능숙한 에이전트 하니스라고 설명. 또한 하니스는 일반적으로 비전, 코드 실행, 웹 전근 등 공통 모듈이 기본 탑재된 프레임워크로, 기본 AI 프레임워크보다 상위 레벌의 구조물이며 설계상 더 완결적이다.

즉, Claude Code 자체가 하니스라기보다는 Claude Code의 기반이 되는 SDK가 하니스이고, Claude Code는 그 하니스 위에 구축된 제품.

 

그런데 왜 필요해?

AI 모델은 본질적으로 텍스트를 넣으면 텍스트를 뱉는 함수이다. 파일을 읽지 못하고, 코드를 실행하지 못하고, 인터넷을 검색하지 못하고, 이전 대화를 기억하지 못한다. 즉 모델 혼자서는 아무것도 할 수 없다.

비유하면, AI 모델은 뇌와 같다. 그래서 손, 팔, 눈, 근육 등이 있어야 뇌의 판단이 물리적 행동까지 이어질 수 있다.

 

Harness의 구성 : Claude Code 기준

도구 연결 : 모델이 파일을 읽고 싶다고 출력하면, 그 텍스트를 받아서 실제로 파일시스템에서 파일을 읽어오는코드.

대화 관리 : 사용자 입력을 받아서 모델에 넘기고, 모델 출력을 사용자에게 보여주는 루프. 컨텍스트가 길어지면 압축 등.

권한과 안전장치 : 모델이 "rm -rf/"를 실행하겠다고 한다면 막는 것. 

프롬프트 시스템 : 모델에게 '너는 코딩 에이전트이고, 이런 도구들을 쓸 수 있고, 이런 규칙을 따라야 한다'라고 알려주는 시스템 프로픔트 전체

 

세부적인 역할 사례

컨텍스트를 쪼개고, 요약하고, 다음 모델에 넘기는 등의 세부 시나리오를 하니스가 통제한다. 즉 context isolation, conetext reduction, context retrieval 같은 기법들이 모두 하니스의 책임

 

 

RL을 활용한 하니스

OpenAI의 Codex 팀 엔지니어 Hanson Wang은 Sequoia Capital 인텁에서 이 점을 직접적으로 확인한다. 훈련 과정에서 현실적인 환경을 생성해야 했으며, 훈련에 사용하는 환경과 프로덕션에서 서빙하는 컨테이너화 인프라가 동일하기 때문에, 사용자가 Codex를 사용할 때 훈련에 사용된 것과 정확히 같은 환경에서 실행된다.

Codex-1은 다양한 관경에서의 실제 코딩 작업에 대해 강화학습으로 훈련되어, 인간 스타일에 가깝고 PR 선호도에 맞는 코드를 생성하도록 강화