Agent Containment: JPMorgan·Goldman CIO가 밝힌 에이전트 통제와 성과 측정 원칙
JPMorgan은 에이전트 구축을 플랫폼 하나로 모아 통제를 자동으로 붙이고 성과를 사업부 책임 과제 50개로 재며, Goldman은 모든 에이전트가 오작동할 수 있다는 전제로 범위 제한과 거래 전 관문을 둡니다. 두 원칙을 우리 조직에 옮기는 등록 절차, 도구 등급, 8주 일정을 붙였습니다.
대형 은행 두 곳의 CIO가 같은 결론을 냈습니다. 에이전트는 많이 만드는 것보다 한곳에서 통제하며 만드는 것이 먼저이고, 성과는 몇 개를 만들었는지가 아니라 사업부가 책임지는 과제로 잽니다. 우리 조직에 옮기려면 에이전트 등록 플랫폼, 도구별 위험 등급, 거래 직전 사람 승인, 과제마다 사업부 책임자를 먼저 정해야 합니다.
요약
2026년 10월 22일 뉴욕 Evident AI 심포지엄에서 JPMorgan Chase CIO Lori Beer와 Goldman Sachs CIO Marco Argenti가 AI 에이전트 도입 원칙을 밝혔고, Banking Dive(CIO Dive 동시 게재)가 이튿날 보도했습니다. Beer는 사내 생성형 AI 플랫폼 LLM Suite를 직원 약 20만 명이 쓰고, 그 위에서 업무 앱 1,000개가 돌아간다고 소개했습니다. 그러면서 보안을 모든 일의 맨 앞에 둔다고 했습니다. 소프트웨어가 deterministic(같은 입력에 늘 같은 결과)에서 non-deterministic(결과가 매번 달라질 수 있음)으로 옮겨 가면서 새로운 위험 경로가 열린다는 이유입니다. Argenti도 같은 전제에서 출발했습니다. 에이전트는 stochastic(확률적으로 움직이는) 기계이므로 오작동을 전제로 설계해야 한다는 것입니다.
두 사람이 내놓은 해법은 순서가 비슷합니다. 먼저 신원·접근 관리, 특권 접근, 환경 분리 같은 기본 통제를 최고 수준으로 맞춥니다. JPMorgan은 외부 에이전트가 사내 환경에서 돌지 못하게 막았습니다. 다음으로 에이전트 구축을 core agent-building platform(핵심 에이전트 구축 플랫폼) 하나로 모아, 통제를 자동으로 규모 있게 적용합니다. Goldman은 범위를 가두고(containment), 에이전트에 규칙을 주고, 거래 직전에 관문(gate)을 둡니다. 마지막으로 JPMorgan은 성과를 사용 사례 수가 아니라 사업부가 책임지는 전략 과제 50개로 잽니다. Beer는 빠르게 가되 통제를 갖추려면 때로 물러서야 한다고 했습니다. 아래에서는 여섯 가지 원칙이 어떻게 작동하는지 풀고, 우리 조직에 옮길 때 필요한 등록 절차와 일정을 덧붙였습니다.
핵심 메커니즘
Core Agent-Building Platform: 에이전트를 만드는 곳을 하나로
무엇인가. 사업부가 각자 도구를 골라 에이전트를 만들지 않고, 회사가 정한 플랫폼 한 곳에서만 만들게 하는 방식입니다. Beer는 JPMorgan이 이 플랫폼 하나로 시작한다고 밝혔습니다.
어떻게 작동하나. 사업부가 에이전트를 요청하면 플랫폼이 등록·신원 발급·평가·로그 수집을 처리합니다. 통제를 만드는 곳에 붙이니, 에이전트 수가 늘어도 같은 규칙이 적용됩니다. Beer는 guardrail(입출력과 행동을 막는 장치)과 evaluation(평가)을 실시간으로 동적으로 돌리는 일은 복잡하며 아직 만들어 가는 중이라고 했습니다. 플랫폼이 하나면 그 장치를 한 번만 만들면 됩니다.
언제 쓰나. 에이전트가 사내 데이터와 업무 시스템에 손대기 시작할 때부터입니다. 가상 예로, 영업의 제안서 에이전트와 재무의 정산 에이전트가 같은 플랫폼에서 서비스 계정을 받고 같은 대시보드에 로그를 남깁니다.
Foundational Controls: 기존 보안 통제를 에이전트에 그대로
무엇인가. Beer가 꼽은 기본 통제는 IAM(Identity and Access Management, 누가 무엇에 접근하는지 관리), 특권 접근 관리, 환경 분리입니다. 새로운 장치가 아니라 원래 있던 통제입니다. Beer는 이것이 최고 수준이어야 한다고 강조했습니다.
어떻게 작동하나. 에이전트도 사람처럼 신원 하나를 받고, 그 신원에 허용된 데이터와 시스템에만 닿습니다. 쓰기나 이체 같은 큰 권한은 평소에는 없고 필요할 때만 올립니다. 개발·검증·운영 환경을 나눠, 시험 중인 에이전트가 운영 데이터에 닿지 못하게 합니다. JPMorgan은 여기에 외부 에이전트 반입 금지를 더했습니다. CEO Jamie Dimon이 통제를 벗어난 에이전트에 대한 우려를 밝힌 뒤의 조치입니다.
언제 쓰나. 예외 없이 쓰되, 수준은 에이전트가 하는 일에 맞춥니다. 조회만 하는 에이전트에 거래 수준의 승인을 걸면 현업이 플랫폼을 피해 갑니다.
Pull Back to Get Controls: 통제가 없으면 먼저 멈춘다
무엇인가. 속도를 내되, 통제가 따라오지 못하면 잠시 물러서는 원칙입니다. Beer는 기술이 그것을 관리하는 역량보다 앞서 달리고 있다고 진단했습니다.
어떻게 작동하나. JPMorgan은 2022년 데이터 유출 위험을 이유로 ChatGPT를 막았습니다. 막은 뒤에는 Microsoft Azure 위에 사설 클라우드 환경을 만들었고, 그 결과물이 LLM Suite입니다. 지금 LLM Suite는 여러 단계를 이어서 처리하는 작업까지 한다고 Beer는 설명했습니다. 데이터가 어떻게 쓰이는지 은행이 확신할 수 있는 환경 안에서입니다.
언제 쓰나. 데이터가 밖으로 나가는지 확인할 수 없거나 행동 기록이 남지 않을 때 멈추고, 대체 경로를 함께 정합니다. 막기만 하면 직원들이 개인 계정으로 우회합니다.
Assume Misbehavior: 모든 에이전트가 틀릴 수 있다고 보고 가둔다
무엇인가. Argenti는 에이전트를 기업 표준과 정책에 맞추는 일을 가장 어려운 과제로 꼽았습니다. 그의 해법은 이 한마디에서 출발합니다. “any agent could misbehave.” 에이전트가 예상치 못한 결과를 낼 수 있다면, 막는 장치를 처음부터 겹겹이 둬야 한다는 뜻입니다.
어떻게 작동하나. 세 겹입니다. containment는 에이전트가 닿는 시스템과 데이터의 범위를 가둡니다. rules는 기업의 표준과 정책을 에이전트가 따라야 할 규칙으로 바꿉니다. gate는 에이전트가 거래를 실행하기 직전, 사용자 도구 앞에 관문을 둡니다. 마지막 gate는 되돌릴 수 없는 행동만 따로 붙잡습니다.
언제 쓰나. 돈이 움직이거나 외부로 무언가 나가는 행동 앞에 둡니다. 조회·초안처럼 되돌릴 수 있는 행동에 걸면 승인 대기만 쌓입니다.
Business-Owned Initiatives: 성과는 사업부가 책임지는 과제로 잰다
무엇인가. JPMorgan은 사용 사례 개수를 세던 방식을 접고, 사업부가 소유하는 전략 과제 50개로 가치를 잽니다. Beer는 투자가 결국 성과로 이어지게 하는 것이 자신들의 책무라고 했습니다.
어떻게 작동하나. 과제마다 사업부 책임자가 있고, 그 책임자가 성과를 보고합니다. IT는 플랫폼과 통제를 맡고, 무엇을 얼마나 바꿨는지는 사업부가 증명합니다. 원문은 비용 쪽 단서도 하나 줍니다. 토큰 비용의 대부분은 코딩 보조에서 나옵니다. 어디에 돈이 쓰이는지 아는 것이 과제별 가치를 재는 출발점입니다.
언제 쓰나. 도입 초기에는 사용자 수가 확산 지표로 쓸모 있지만, 사용이 넓게 퍼진 뒤에는 과제 단위로 바꿉니다.
Forward-Deployed Engineers: 현장에 들어가 역량을 남기고 떠나는 엔지니어
무엇인가. FDE(Forward-Deployed Engineer)는 고객 현장에 상주하며 함께 시스템을 만드는 엔지니어입니다. Goldman은 올해 Anthropic과 손잡고 AI 서비스 회사를 세웠고, 이 회사가 중견기업에 FDE를 보내 Claude 도입과 확대를 돕습니다.
어떻게 작동하나. Argenti는 이들이 전형적인 컨설턴트와 다르다고 했습니다. 가능한 한 빨리 필요 없어지는 것이 일입니다. 들어가서 고객 팀이 근육을 키우게 한 뒤, 고객이 혼자 움직이게 하고 떠납니다. 연구소가 앞서 있으니 연구소 출신이 직원 옆에서 일하는 것이 가장 좋은 교육이라고 봤습니다. 원문은 Google, Microsoft, AWS도 FDE 프로그램에 수십억 달러를 쓰고 있다고 덧붙입니다.
언제 쓰나. 사내에 에이전트를 운영해 본 사람이 없고 첫 과제를 몇 달 안에 올려야 할 때 맞습니다.
통념과 다른 주장
흔히 이렇게 봅니다AX 성과는 만든 사용 사례와 파일럿의 개수, 사용자 수로 보여 준다.
JPMorgan은 이렇게 봅니다사용 사례를 세지 않고, 사업부가 소유하는 전략 과제 50개로 가치를 잽니다. 투자가 성과로 이어졌는지가 기준입니다.
근거LLM Suite는 이미 직원 약 20만 명이 쓰고 업무 앱 1,000개가 돌아갑니다. 개수로는 더 보여 줄 것이 없는 규모에서 측정 단위를 과제로 바꿨습니다.
흔히 이렇게 봅니다에이전트를 빨리 퍼뜨리려면 부서마다 원하는 도구로 자유롭게 만들게 해야 한다.
JPMorgan은 이렇게 봅니다구축 플랫폼 하나에서 시작해야 통제를 규모 있게, 자동으로 적용할 수 있습니다. 외부 에이전트는 사내 환경에 들이지 않습니다.
근거실시간 guardrail과 evaluation은 만들기 복잡해 아직 구축 중입니다. 플랫폼이 여러 개면 그 일을 여러 번 해야 합니다.
저자가 든 사례
JPMorgan Chase: 막은 뒤 사내 플랫폼으로 키운 LLM Suite
- 상황: 2022년, 공개 챗봇으로 사내 데이터가 나갈 위험이 있었습니다.
- 한 일: ChatGPT를 막고 Azure 사설 클라우드에 LLM Suite를 세웠습니다. 외부 에이전트를 금지하고 구축 플랫폼은 하나로 시작합니다.
- 결과: 직원 약 20만 명, 업무 앱 1,000개, 다단계 작업 수행. 가치는 사업부 과제 50개로 잽니다. 도입 기간과 과제별 성과 수치는 원문에서 밝히지 않았습니다.
- 연결: Pull Back, Core Platform, Foundational Controls, Business-Owned Initiatives의 사례입니다.
Goldman Sachs: 오작동을 전제로 한 에이전트 통제
- 상황: 에이전트를 기업 표준과 정책에 맞추기가 가장 어려웠습니다.
- 한 일: 오작동을 전제로 containment, 에이전트 규칙, 거래 전 gate를 제언했습니다.
- 결과: 원문에서 밝히지 않음(원칙 수준의 제언).
- 연결: Assume Misbehavior의 사례입니다.
Goldman Sachs·Anthropic: 중견기업에 FDE를 보내는 AI 서비스 회사
- 상황: 중견기업은 AI 연구소보다 역량이 뒤처져 있습니다.
- 한 일: Anthropic과 세운 AI 서비스 회사가 중견기업에 FDE를 상주시켜 Claude 도입을 돕습니다.
- 결과: 고객 팀이 스스로 운영하면 떠나는 것이 목표. 회사 이름·고객 수는 원문에서 밝히지 않았습니다.
- 연결: Forward-Deployed Engineers의 사례입니다.
기술 디테일: 두 원칙을 우리 플랫폼에 옮기려면
아래는 두 은행의 원칙을 우리 조직의 에이전트 운영에 대입할 때 필요한 설계로, AX Review가 새로 작성했습니다. 필드 이름과 숫자는 가상 예시입니다.
Core Platform을 실제로 돌리려면 에이전트마다 등록 레코드를 하나씩 둡니다. 플랫폼은 이 레코드가 없는 에이전트를 실행하지 않습니다. 레코드에는 책임자, 위험 등급, 쓸 수 있는 도구와 데이터 범위, 배포된 환경, 마지막 평가 결과가 들어갑니다. 위험 등급은 그 에이전트가 쓰는 도구 가운데 가장 높은 등급을 따릅니다.
{
"agent_id": "fin-expense-01",
"owner": "재무운영팀 김OO",
"business_initiative": "INIT-17 경비 정산 자동화",
"risk_tier": "transaction",
"service_account": "svc-agent-fin-expense-01",
"token_ttl_minutes": 15,
"tools": [
{ "name": "erp.read_invoice", "tier": "read" },
{ "name": "erp.update_status", "tier": "write" },
{ "name": "bank.pay_vendor", "tier": "transaction", "gate": "human_approval", "limit_krw": 5000000 }
],
"data_scopes": ["invoices:finance", "vendors:read"],
"environment": "prod",
"last_eval": { "date": "2026-10-20", "runs": 5, "policy_violations": 0, "tool_match_rate": 0.97 }
}business_initiative 필드가 등록과 성과 측정을 잇습니다. 이 칸이 비어 있으면 운영 배포를 막습니다. 그래야 모든 에이전트가 사업부 책임 과제 가운데 하나에 매이고, 과제별 토큰 비용도 자동으로 모입니다.
Foundational Controls를 에이전트에 붙이려면 에이전트마다 사람 계정이 아닌 서비스 계정을 하나씩 발급합니다. 담당자 개인 계정을 빌려 쓰게 하면 로그에서 사람과 에이전트를 구분할 수 없습니다. 토큰은 15분처럼 짧게 주고, 쓰기·이체 권한은 그 작업을 요청할 때만 올립니다. 외부 에이전트를 막으려면 사내 망에서 나가는 호출을 허용 목록(allowlist)으로 관리하고, 등록되지 않은 MCP 서버나 에이전트 연결은 프록시에서 끊습니다.
Gate를 거래 직전에 두려면 도구를 세 등급으로 나눕니다. read(조회)는 자동으로 허용하고 로그만 남깁니다. write(기록 변경)는 정책 엔진이 호출마다 검사하고, 사후에 하루 5%를 표본으로 검토합니다. transaction(이체·발주·외부 발송)은 실행 직전에 멈추고, 금액·상대방·근거 문서를 담은 승인 요청을 사람에게 보냅니다. 요청에는 바로 앞 세 단계의 도구 호출을 붙입니다. 정책 엔진이 응답하지 않으면 허용하지 않고 거부합니다(fail-closed).
stochastic한 에이전트를 평가하려면 평가 문항을 한 번씩 돌리지 않고 같은 입력을 5회 이상 반복합니다. 문항은 정상 업무 150개, 정책 위반을 유도하는 문항 50개로 시작합니다. 볼 것은 두 가지입니다. 정책 위반이 한 번이라도 나오는지, 그리고 도구 호출 순서가 기대값과 얼마나 일치하는지입니다. temperature는 운영과 같은 값으로 맞춥니다. 평가에서만 0으로 낮추면 편차가 가려집니다. 위반이 나온 문항은 회귀 평가셋에 넣어, 모델이나 프롬프트를 바꿀 때마다 다시 돌립니다.
현업 실행 디테일: 누가, 언제, 무엇을
아래 역할과 일정은 AX Review가 새로 작성한 가상 예시입니다.
| 역할 | 담당 | 8주 동안 하는 일 |
|---|---|---|
| 스폰서 | CIO 또는 CDO | 단일 플랫폼 원칙과 외부 에이전트 정책 승인 |
| 보안 | CISO 조직 1~2명 | 서비스 계정, 권한 상승, 환경 분리 점검 |
| 플랫폼 | 엔지니어 2~3명 | 등록 레코드, 정책 엔진, 로그·비용 대시보드 |
| 사업부 책임자 | 과제별 팀장 1명 | 과제 KPI 정의, 기준선 측정, 결과 보고 |
| 승인자 | 재무·구매 담당 | transaction 승인 요청 처리, 상한 조정 의견 |
| AX 추진 | 1명 | 과제 목록 관리, 사용 사례를 과제로 묶기 |
시작 전 준비물: 지금 사내에서 돌고 있는 AI 도구와 에이전트 목록(공식·비공식 모두), 에이전트가 호출할 수 있는 시스템 목록과 각 시스템의 쓰기 권한 보유자, 이체·발주·외부 발송처럼 되돌릴 수 없는 행동 목록, 사업부별 올해 핵심 과제 목록.
| 주차 | 할 일 | 산출물 |
|---|---|---|
| 1~2주 | 사내 AI 도구·에이전트 전수 조사, 기본 통제 점검, 외부 에이전트 정책 결정 | 에이전트 목록, 통제 점검표 |
| 3~4주 | 등록 레코드 정의, 기존 에이전트 등록, 서비스 계정 발급 | 등록 대장, 권한 매트릭스 |
| 5~6주 | 도구 등급 지정, transaction gate 시험, 반복 평가셋 구축 | 도구 등급표, 평가 결과 |
| 7~8주 | 사용 사례를 과제로 묶기, 과제별 KPI 기준선, 확대 판정 회의 | 과제 목록, 판정 보고서 |
사업부 책임자 확인 질문: 이 에이전트가 기여하는 과제는 무엇이고, 과제의 KPI는 지금 얼마입니까? 에이전트가 틀리면 누가 가장 먼저 알게 됩니까? 되돌릴 수 없는 행동은 무엇이고, 지금은 그 행동을 누가 승인합니까? 승인 요청이 하루 몇 건까지 오면 감당할 수 있습니까? 에이전트를 멈춰야 할 때 수작업으로 돌아갈 절차가 있습니까?
진행 판정 기준(예시): transaction 등급 호출의 사람 승인 비율이 100%이고, 반복 평가에서 정책 위반이 0건이며, 과제마다 책임자와 KPI 기준선이 정해졌으면 다음 사업부로 확대합니다. gate를 거치지 않은 거래가 한 건이라도 있거나, 외부 에이전트 접속이 발견되거나, 책임자 없는 과제가 남아 있으면 확대를 멈추고 통제부터 고칩니다.
AX 적용 제언. 이 원칙이 바로 필요한 곳은 에이전트가 늘고 있는데 누가 무엇을 만들었는지 아무도 모르는 조직입니다. 금융, 보험, 대형 제조사의 구매·재무 부문이 대표적입니다. 순서는 전수 조사 → 플랫폼 하나로 등록 → transaction gate → 사용 사례를 과제로 묶기가 무난합니다. 가장 먼저 바뀌는 관행은 보고 방식입니다. 경영진 보고에서 파일럿 개수를 빼고, 사업부 책임 과제의 KPI 변화를 넣으십시오. 내부에 에이전트를 운영해 본 사람이 없다면 첫 과제 한두 개는 FDE와 함께 만들되, 계약에 고객 팀으로의 이관 시점과 조건을 처음부터 적어 둡니다.
원문 사례
| 항목 | 내용 |
|---|---|
| 발표처 | Banking Dive(2026.10.23), CIO Dive 동시 게재, Makenzie Holland |
| 행사 | Evident AI 심포지엄, 뉴욕, 2026.10.22 |
| JPMorgan 플랫폼 | LLM Suite, 직원 약 20만 명 사용, 업무 앱 1,000개 지원, 다단계 작업 수행 |
| JPMorgan 이력 | 2022년 데이터 유출 위험으로 ChatGPT 차단 → Azure 사설 클라우드 → LLM Suite |
| JPMorgan 통제 | IAM · 특권 접근 · 환경 분리를 최고 수준으로, 외부 에이전트 금지, 핵심 구축 플랫폼 하나로 시작 |
| 진행 중인 과제 | 실시간 동적 guardrail · evaluation 구축 |
| 비용 | 토큰 비용 대부분이 코딩 보조 |
| 가치 측정 | 사용 사례 수 대신 사업부 소유 전략 과제 50개 |
| Goldman 통제 | 에이전트는 stochastic, containment · 에이전트 규칙 · 거래 전 사용자 도구 gate |
| Goldman · Anthropic | 2026년 AI 서비스 회사 설립, 중견기업에 FDE 상주, Claude 도입 · 확대 |
| 업계 | Google · Microsoft · AWS가 FDE 프로그램에 수십억 달러 투자 |
핵심 개념
- Evident AI
- 금융권의 AI 도입을 분석하는 조직. 두 CIO가 발언한 심포지엄의 주최 측.
- LLM Suite
- JPMorgan의 사내 생성형 AI 플랫폼. 직원이 쓰는 도구이자 업무 앱이 올라가는 기반.
- privileged access(특권 접근)
- 시스템 설정 변경, 대량 데이터 조회, 이체처럼 영향이 큰 권한. 평소에는 꺼 두고 필요할 때만 켠다.
- separation of environments(환경 분리)
- 개발·검증·운영 환경을 나눠 시험 중인 코드나 에이전트가 운영 데이터에 닿지 못하게 하는 원칙.
- fail-closed
- 검사 장치가 고장 나거나 응답하지 않을 때 허용이 아니라 거부로 처리하는 설계.
내 메모
TODO: 내 생각 추가
원문: Makenzie Holland, “JPMorgan Chase, Goldman Sachs underscore security in AI plans”(Banking Dive, 2026.10.23, CIO Dive 동시 게재). Lori Beer와 Marco Argenti의 발언은 원문 보도를 기준으로 요지만 옮겼고, 직접 인용은 한 번입니다. 요약·메커니즘·통념과 다른 주장·사례·원문 사례 표는 보도 내용을 AX Review가 다시 정리했습니다. 기술·현업 디테일, JSON 예시, 도구 등급, 평가 방식, 일정·판정 기준, 인포그래픽, 표는 AX Review가 새로 작성했으며 숫자와 필드 이름은 가상 예시입니다. 전체 내용은 원문에서 볼 수 있습니다.