일을 맡길수록 사람 몫은 '허락'이 된다 — AI 에이전트의 검증 관문 읽기

이번 달 GitHub 트렌드에서 에이전트 도구는 다섯 개 중 하나였습니다. multica·AiSOC·TradingAgents의 승인 단계, Strix의 '허락받은 대상만', Codex Security의 '후보와 검증', Plannotator의 '계획에 메모'를 나란히 읽고, 에이전트에게 일을 맡기기 전 확인할 5가지를 정리했습니다.

한 줄로. AI 에이전트에게 일을 맡길수록 사람의 몫은 “직접 하는 일”에서 **”무엇을 허락할지 정하는 일”**로 옮겨 갑니다. 이번 달 Threads에 올린 GitHub 레이더 글 네 편을 다시 읽어 보니, 잘 만든 에이전트 도구일수록 README에 승인·검증 관문을 분명히 적고 있었습니다.

*이 글은 darlsam37 Threads의 [GitHub 레이더] No.15·28·29·33을 블로그용으로 다시 정리한 것입니다. 기능 설명은 각 저장소 README 기준이고, 제가 도구를 직접 돌려 본 결과는 아닙니다. 별 수·라이선스·마지막 업데이트는 2026-11-15 10:00~10:07 KST에 GitHub API로 다시 조회한 값입니다.*

1. 숫자로 본 흐름: 다섯 개 중 하나는 ‘일을 맡기는’ 도구

11월 첫째 주 GitHub 트렌드 시트(2026-11-02 09:20 KST 수집, 651개)를 세어 보았습니다.

  • 이름이나 설명에 agent·에이전트가 들어간 레포: 141개(22%)
  • 그중 만든 지 1년이 안 된 레포: 97개(69%). 나머지 510개에서는 152개(30%)였습니다.
  • 141개 중 53개는 설명에 코딩·터미널 같은 개발 단어가 있었습니다. 기억(메모리), 보안, 투자, SNS 예약 쪽도 보였습니다.

단어로 센 숫자라 이름만 겹치는 레포도 섞여 있습니다. 그래도 “새로 뜨는 도구의 상당수가 사람 대신 일을 하겠다는 도구”라는 흐름은 분명합니다.

2. 네 가지 검증 관문

같은 “맡기기”라도 사람이 끼어드는 자리는 도구마다 다릅니다. 레이더에서 다룬 도구를 관문의 위치로 나눠 보았습니다.

관문 도구 사람이 하는 일 README가 밝힌 것
내보내기 전 승인 multica, AiSOC 끝낸 일을 검토하고 내보낼지 정함 multica는 검토 단계를 거쳐 사람이 내보낼 것을 정함. AiSOC는 바깥으로 나가는 조치 전에 사람이 승인하고 모든 단계를 기록
대상 허락 Strix 점검해도 되는 대상과 범위를 정함 내 것이거나 서면으로 허락받은 대상에만. 무단 점검은 대부분 나라에서 불법이고 책임은 사용자에게 있다고 경고
후보와 검증의 분리 Codex Security 검증을 넘은 결과만 믿음 찾은 후보를 코드에 비춰 다시 확인한 뒤 보고서·패치로 넘김. 보고서에 “이번에 보지 않은 범위”를 남김
계획 단계 메모 Plannotator 계획의 어느 줄을 고칠지 표시 줄마다 단 메모가 에이전트의 다음 입력으로 돌아감

반대 사례도 있습니다. TradingAgents는 승인하는 역할(Portfolio Manager)까지 에이전트가 맡습니다. 대신 README에 연구용이고 모의 거래소에서 돌린다고 밝힙니다. 사람의 승인을 빼는 대신 쓰는 곳을 좁힌 셈입니다.

3. 도구별로 조금 더

multica · AiSOC · TradingAgents (No.15)

  • multica: 에이전트에게 일감을 배정하는 작업판. 끝낸 일은 검토로 넘어갑니다. README는 source-available이라고 밝히며, GitHub은 라이선스 종류를 가리지 못합니다(NOASSERTION). ★56,127, 마지막 push 11/15.
  • AiSOC: 보안 경보를 에이전트가 먼저 조사하고, 조치 전 사람이 승인합니다. 결정 과정은 다시 볼 수 있는 기록(Investigation Ledger)으로 남습니다. MIT, ★7,641, 마지막 push 11/15.
  • TradingAgents: 투자 판단을 여러 에이전트가 나눠 맡는 연구용 프레임워크. Apache-2.0, ★122,598, 마지막 push 11/4.

Strix (No.28) — “허락받은 문만 두드린다”

AI 에이전트 여럿이 정찰·공격·검증을 나눠 맡아 내 앱을 해커처럼 두드려 봅니다. 찾은 취약점은 실제로 작동하는 PoC로 확인해 헛경보를 줄이고, 패치와 보고서를 만듭니다. GitHub Actions에 넣어 PR마다 빠른 점검을 돌릴 수도 있습니다.

  • ○ 라이선스 Apache-2.0, ★75,581, 마지막 push 11/14(KST)
  • △ 비용·설치: 오픈소스는 무료지만 LLM API 사용료나 ChatGPT 구독이 들고, Docker가 필요합니다.
  • △ 허락: 내 것이거나 서면으로 허락받은 대상에만, 합의한 범위 안에서.
  • 판정: 내 앱을 점검하려는 개발자라면 써볼 만, 보안 점검이 처음이라면 지켜볼 만.

Codex Security (No.29) — “찾은 구멍은 아직 후보다”

OpenAI의 코드 보안 점검 도구입니다. 저장소 전체, 고른 폴더, 바뀐 커밋만 골라 구멍을 찾고, 그 후보를 코드에 비춰 검증한 뒤 패치 초안을 만듭니다. Codex 안에서, 터미널의 cs 명령으로, GitHub Actions 정기 점검으로 씁니다.

  • ○ 라이선스 Apache-2.0, ★13,544, 마지막 push 11/15(KST)
  • △ 설치: Node.js와 Python 3.10+ 필요
  • △ 비용·데이터: ChatGPT 로그인 또는 API 키. 검증 단계는 찾은 내용을 설정한 AI 제공사로 보냅니다. README의 GitHub Actions 예시는 스캔 1번에 약 5달러 한도를 둡니다.
  • 판정: 자기 코드를 관리하는 개발자라면 써볼 만, 코드를 다루지 않는다면 지켜볼 만.

Plannotator (No.33) — “계획에 펜을 대면, 메모가 다음 지시가 된다”

Claude Code, Codex, Gemini CLI, OpenCode 같은 코딩 에이전트에 붙는 검토 화면입니다. 에이전트가 계획을 세우면 내 컴퓨터의 브라우저에서 화면이 열리고, 줄마다 단 메모가 그대로 다음 입력이 됩니다. 아직 올리지 않은 코드 변경과 PR, 마크다운 문서에도 메모를 달 수 있습니다.

  • ○ 라이선스 Apache-2.0, ★11,137, 마지막 push 11/15
  • △ 데이터: 기록은 기본적으로 내 컴퓨터에 남지만, AI에게 묻기·공유 링크를 쓰면 내용이 밖으로 나갑니다.
  • 판정: 코딩 에이전트에 일을 자주 맡긴다면 써볼 만, 아직 에이전트를 쓰지 않는다면 지켜볼 만.

4. 바꿀 수 없는 심판: /teamwork와 같은 생각

오늘 아침 정리한 구글 Antigravity /teamwork 글도 같은 이야기를 합니다. 여러 AI에게 역할을 나누되, 손대지 않은 원래 테스트처럼 AI가 바꿀 수 없는 기준으로 결과를 가립니다. Codex Security가 “후보”와 “검증”을 나눈 것, Strix가 PoC로 확인하는 것도 같은 줄기입니다. 에이전트가 “됐다”고 말하는 것과 실제로 된 것을 가르는 장치가 따로 있어야 한다는 뜻입니다.

5. 인문학 노트: 허락하는 사람은 그 일을 알아야 한다

‘로봇’이라는 말은 카렐 차페크의 희곡 『R.U.R.』(1920)에서 널리 퍼졌습니다. 뿌리는 체코어 robota, 강제 노동입니다. 처음부터 로봇은 “사람 대신 일하는 존재”였습니다.

칼 포퍼는 『추측과 논박』(1963)에서 확증을 찾으려 들면 거의 모든 이론에서 쉽게 찾는다고 썼습니다. 진짜 시험은 틀렸음을 드러낼 수 있는 시험이라는 것입니다. AI가 내놓은 결과에도 같은 태도가 필요합니다.

남는 질문은 이것입니다. 일을 맡길수록 사람은 허락하는 자리에 앉습니다. 그런데 그 일을 직접 해 본 적 없는 사람도 좋은 허락을 할 수 있을까요? 저는 도구의 승인 버튼보다, 그 버튼을 누르는 사람이 무엇을 확인하고 누르는지가 더 중요하다고 봅니다.

6. 에이전트에게 맡기기 전 5가지 점검

  1. 완료 기준을 먼저 적는다. “됐다”를 무엇으로 판단할지(테스트 통과, 결과 파일, 사람 검토)를 맡기기 전에 정합니다. 에이전트가 그 기준을 고칠 수 없게 둡니다.
  2. 허락 범위를 적는다. 어떤 폴더·계정·사이트까지 손대도 되는지. 남의 것은 애초에 대상이 아닙니다.
  3. 바깥으로 나가는 순간에 관문을 둔다. 메일 발송, 배포, 결제, 삭제처럼 되돌리기 어려운 일 앞에서는 사람이 승인합니다.
  4. 기록을 남기게 한다. 무엇을 보고, 무엇을 바꾸고, 무엇을 보지 않았는지. 나중에 다시 읽을 수 있어야 합니다.
  5. 데이터가 어디로 가는지 확인한다. 검증 단계나 “AI에게 묻기” 기능이 내 코드와 문서를 외부 AI 회사로 보내는지 README에서 먼저 찾습니다.

출처

확인하지 않은 것: 각 도구의 실제 탐지율·헛경보 비율, 승인 단계를 끌 수 있는지 여부, 유료판 조건.

Comments

댓글

GitHub 계정으로 의견을 남길 수 있습니다. 댓글은 GitHub Discussions에 저장됩니다.