Digital Teammates: 금융사가 AI 에이전트를 직원처럼 권한·평가·kill switch로 관리하는 법

에이전트가 수천 개로 늘면 사람이 하나하나 감독할 수 없습니다. 앞선 금융사들은 에이전트를 직원처럼 다룹니다. 소유자와 권한, 목표, 성과 평가, 정지 스위치를 붙이고, 감시는 다른 에이전트에게 맡기되 꼭대기에는 사람을 둡니다. 시작하려면 에이전트 목록(레지스트리)과 업무·리스크·기술의 책임 분담부터 정해야 합니다.

요약

American Banker의 기술 담당 편집장 Penny Crosman은 2026년 10월 22일 기사에서, 10월 20~21일 뉴욕에서 열린 Most Powerful Women in Banking 컨퍼런스의 논의를 정리했습니다. 주제는 두 방향입니다. 직원이 AI 에이전트를 어떻게 쓰게 할지, 그리고 직원처럼 일하기 시작한 에이전트를 어떻게 관리할지입니다. Franklin Templeton, Truist, M&T Bank, Barclays의 리더들이 에이전트에 얼마나 자율을 줄지, 그리고 어떻게 감시하고 통제할지 각자의 방식을 이야기했습니다.

금융사 리더들이 에이전트를 직원처럼 다룰 때의 관리 문제를 이야기한 자리입니다.

회사마다 서 있는 단계가 다릅니다. Franklin Templeton은 에이전트 6,000개 이상을 배포했고, 관리자 에이전트가 이들을 평가해 다시 프로그래밍하거나 끕니다. M&T는 업무 약 75%에 에이전틱 AI를 쓰지만, Truist와 마찬가지로 에이전트가 직원처럼 혼자 일하게 두지는 않습니다. 두 은행은 자율 에이전트를 프로덕션에 올리기 전에 framework와 guardrail(안전장치), 거버넌스를 먼저 만들고 있습니다. Truist는 앞으로 올 AI 동료에게 권한, 목표, 성과 평가를 주고 모든 에이전트에 kill switch(즉시 정지 장치)를 단다는 구상을 밝혔습니다. 아래에서는 이 구조를 다섯 가지 메커니즘으로 풀고, 실제로 돌릴 때 필요한 기술·현업 디테일을 덧붙입니다.

Franklin Templeton은 에이전트 6,000개 이상을 배포했습니다(발표자 언급).

M&T는 업무 약 75%에 에이전틱 AI를 쓰지만, 에이전트의 독자 운영은 아직 허용하지 않습니다.

핵심 메커니즘

Agent Hierarchy: 에이전트가 에이전트를 감독하는 위계

무엇인가. 일하는 에이전트 위에 평가하는 에이전트를 두고, 그 위에 사람을 두는 보고 체계입니다. Franklin Templeton의 디지털 자산·혁신 책임자 Sandy Kaul이 설명한 구조입니다.

어떻게 작동하나. worker agent(일하는 에이전트)가 매일 조직 안에서 행동합니다. manager agent(관리자 에이전트)는 이들이 일을 제대로 하는지 보고, 다시 프로그래밍할지 끌지를 정합니다. manager agent는 HR agent에게 보고하고, HR agent는 사람에게 보고합니다. 사람의 감독이 실제로 어떻게 이뤄지는지는 원문에서 밝히지 않았습니다.

언제 쓰나. 에이전트가 수백 개를 넘어 사람이 로그를 다 읽을 수 없을 때 맞습니다. 에이전트가 몇 개뿐이면 사람이 직접 검토하는 편이 단순합니다.

작은 예시(가상). 송장 대사 에이전트 40개를 manager agent 하나가 매일 표본으로 채점하고, 정답률이 떨어진 2개를 정지 후보로 올리면 담당자는 그 2개만 봅니다.

일하는 에이전트를 관리자 에이전트가 판정하고, 그 보고가 HR agent를 거쳐 사람에게 올라갑니다.

Digital Teammate: 권한·목표·평가를 갖춘 AI 동료

무엇인가. Truist의 도매금융 총괄 Kristin Lesher가 그리는 미래의 에이전트입니다. 사람 직원처럼 권한, 목표, objective를 받고 performance review(성과 평가)를 받으며, 사람처럼 뽑고 내보낼 수 있습니다.

어떻게 작동하나. 에이전트를 만들 때 쓰임새와 권한 범위, 달성할 목표를 먼저 정합니다. 운영 중에는 목표 대비 성과를 주기적으로 평가합니다. 성과가 모자라면 고치거나 내보냅니다. Lesher는 모든 리더가 결국 사람과 디지털 동료가 섞인 팀을 관리하게 된다고 봅니다. Truist는 아직 준비 단계입니다.

언제 쓰나. 에이전트가 특정 팀의 업무를 계속 맡을 때 씁니다. 한 번 쓰고 버리는 질의응답에는 이 틀이 과합니다.

작은 예시(가상). 여신 심사 서류 점검 에이전트에 ‘서류 누락 탐지율 95%‘라는 목표와 ‘고객 원장 읽기만 허용’이라는 권한을 주고, 분기마다 팀장이 사람 직원과 같은 회의에서 평가합니다.

Truist가 그리는 AI 동료는 사람 직원처럼 뽑고, 평가하고, 내보낼 수 있어야 합니다.

Three-Way Ownership과 Kill Switch: 업무·리스크·기술의 책임 분담

무엇인가. 에이전트 하나의 책임을 세 조직이 나눠 지는 Truist의 모델입니다. 업무 조직이 회사에 필요한 일을 정하고, 리스크 조직이 에이전트가 할 수 있는 일과 볼 수 있는 정보를 통제하는 거버넌스를 세웁니다. 기술 조직은 외부 위협에서 경계를 지키고 kill switch를 쥡니다.

어떻게 작동하나. Truist가 만드는 모든 에이전트에는 kill switch가 달립니다. 기술 팀이 새로 나타나는 위협을 보면 이 스위치로 에이전트를 멈춥니다. 정하는 사람(업무), 막는 사람(리스크), 끄는 사람(기술)이 갈리므로 한 조직이 혼자 에이전트를 키우고 감추기 어렵습니다.

언제 쓰나. 고객 데이터나 거래 시스템에 닿는 에이전트에는 처음부터 씁니다. 개인 초안 작성처럼 시스템에 손대지 않는 도구는 등록과 권한 확인 정도로 가볍게 둡니다.

업무가 쓰임새를, 리스크가 권한을, 기술이 방어와 정지 스위치를 맡습니다.

Staged Autonomy: 넓게 쓰되 자율은 단계로 연다

무엇인가. 에이전트를 직원의 도구로 먼저 넓게 쓰고, 혼자 일하게 하는 자율은 통제 장치가 갖춰진 뒤에 여는 순서입니다.

어떻게 작동하나. M&T의 AI·신규 금융 솔루션 리스크 책임자 Rhea Rajwani에 따르면 M&T는 업무 약 75%에 에이전틱 AI를 씁니다. 그래도 M&T와 Truist 모두 에이전트가 직원처럼 독자적으로 일하게 두지 않습니다. 두 은행은 직원에게 에이전트 도구를 주면서, 자율 에이전트를 안전하게 프로덕션에 올릴 framework를 따로 만들고 있습니다. Truist는 용도를 두 가지로 묶었습니다. 고객 조언·상품·서비스 개선과 팀 생산성입니다. 기술을 쓸 곳을 찾지 않고 업무 필요에서 출발합니다.

원문의 예. Lesher는 고객 프레젠테이션 자료를 모으고 만드는 에이전트를 둘 수 있다고 했습니다. 이 에이전트는 Lesher만 쓰고, 회사 시스템 안에서 행동하지 못하며, 고객에게 조언하는 일은 여전히 사람이 합니다.

M&T와 Truist는 1단계에서 에이전트를 넓게 쓰면서 3단계로 가기 전 통제부터 만들고 있습니다.

Own Judgment와 Cost Matching: 생각은 사람이, 도구는 업무에 맞게

무엇인가. 에이전트를 쓰는 직원에게 두 가지를 요구하는 운영 원칙입니다. 첫째, AI의 결과를 그대로 넘기지 말고 자기 판단을 말할 것. 둘째, 가장 강한 도구가 아니라 일에 맞는 도구를 쓸 것.

어떻게 작동하나. Lesher는 팀원에게 에이전트나 LLM이 낸 답이 아니라 본인의 생각을 묻습니다. 이사회 보고에서 메모를 읽는 사람보다 관점을 내놓는 사람을 원하는 것과 같다고 비유했습니다. 기사 제목의 『생각을 말해 달라』도 이 요구와 닿아 있습니다. 비용 쪽에서 Truist는 직원들이 가장 좋고 빠른 도구를 원한다는 점을 과제로 꼽았습니다. 그래서 비용을 추적하고 앞으로의 증가분을 추정하며, 더 싼 방법으로 충분한 업무를 찾아 도구와 업무를 맞추고 있습니다.

원문의 다른 시각. Barclays의 모델·AI 리스크 관리 책임자 Lisa Farkovits는 에이전트를 직원처럼 다루면 사람 동료에게 묻듯 에이전트에게 물어 답을 얻는 날이 온다고 봤습니다. 사내 전화번호부에서 사람을 찾듯 에이전트를 찾는다는 비유입니다.

Lesher는 AI를 쓰더라도 생각은 자기 것이어야 하고, 도구는 업무에 맞춰 고르라고 요구합니다.

통념과 다른 주장

흔히 이렇게 봅니다에이전트 감독은 결국 사람의 몫이고, 에이전트가 늘면 검토하는 사람도 늘려야 한다.

저자는 이렇게 봅니다Kaul은 매일 행동하는 에이전트의 작동 방식을 감시하려면 또 다른 에이전트가 필요하다고 봅니다. 사람은 위계의 맨 위에서 보고를 받습니다.

근거Franklin Templeton은 에이전트 6,000개 이상을 manager agent → HR agent → 사람의 위계로 운영합니다.

6,000개 규모에서는 감시도 에이전트에게 맡기고 사람은 꼭대기에 둡니다.

흔히 이렇게 봅니다에이전트를 많이 쓰는 조직일수록 에이전트에게 일을 맡기는 자율도 높다.

저자는 이렇게 봅니다사용 범위와 자율은 따로 갑니다. 넓게 쓰는 은행도 혼자 일하는 에이전트는 통제 장치가 생길 때까지 열지 않습니다.

근거M&T는 업무 약 75%에 에이전틱 AI를 쓰지만, Truist와 함께 에이전트의 독자 운영은 허용하지 않고 framework를 먼저 만들고 있습니다.

업무 75%에 쓰는 은행도 에이전트의 독자 운영은 아직 열지 않았습니다.

저자가 든 사례

Franklin Templeton: 6,000개 에이전트의 위계 운영

상황: 직원처럼 일하는 에이전트 6,000개 이상이 매일 조직 안에서 행동합니다.
한 일: worker agent를 manager agent가 평가하고, manager agent는 HR agent에, HR agent는 사람에게 보고합니다.
결과: manager agent가 재프로그래밍이나 정지를 결정합니다. 성과 수치와 운영 기간은 원문에서 밝히지 않았습니다.
연결: Agent Hierarchy의 사례입니다.

Franklin Templeton: 에이전트 위계로 대규모 운영을 감독합니다.

Truist: 용도·책임·비용을 먼저 정한 준비 단계

상황: 직원은 가장 강하고 빠른 도구를 원하고, AI 동료를 관리할 틀은 아직 없습니다.
한 일: 용도를 고객 조언·상품 개선과 팀 생산성 두 가지로 묶었습니다. 업무·리스크·기술로 책임을 나누고, 모든 에이전트에 kill switch를 다는 원칙을 세웠습니다. 비용을 추적하며 도구를 업무에 맞추고 있습니다.
결과: 아직 준비 단계이며 에이전트의 독자 운영은 허용하지 않습니다. 절감액 같은 수치는 원문에서 밝히지 않았습니다.
연결: Digital Teammate, Three-Way Ownership과 Kill Switch, Own Judgment와 Cost Matching의 사례입니다.

Truist: 용도·책임·비용을 먼저 정하고 자율은 나중에 엽니다.

M&T Bank와 Barclays: 넓은 사용, 닫힌 자율

상황: M&T는 업무 약 75%에 에이전틱 AI를 씁니다.
한 일: 직원용 도구로 제공하면서, 자율 에이전트를 프로덕션에 올릴 framework·guardrail·거버넌스를 만들고 있습니다. Barclays의 Farkovits는 사람에게 묻듯 에이전트에게 묻는 운영을 내다봤습니다.
결과: M&T는 에이전트의 독자 운영을 허용하지 않습니다. 에이전트가 맡은 구체적 업무는 원문에서 밝히지 않았습니다.
연결: Staged Autonomy의 사례입니다.

M&T: 넓게 쓰고 자율은 막는 1단계. Barclays는 에이전트에게 직원처럼 묻는 날을 내다봅니다.

기술 디테일: 에이전트를 직원처럼 등록하고 판정하고 멈추려면

아래는 기사의 구조를 우리 조직에서 돌릴 때 필요한 설계로, AX Review가 새로 작성했습니다. 필드명과 숫자는 가상 예시입니다.

Digital Teammate를 관리하려면 먼저 에이전트 레지스트리(등록부)가 있어야 합니다. 사람 직원에게 사번과 소속, 직무 기술서가 있듯 에이전트에도 같은 정보를 둡니다. 등록되지 않은 에이전트는 사내 API 게이트웨이를 통과하지 못하게 막아야 목록이 실제와 맞습니다. 권한은 OAuth scope나 서비스 계정 단위로 쪼개 리스크 조직이 승인합니다.

{
  "agent_id": "ag-credit-doccheck-07",
  "purpose": "여신 심사 서류 누락 점검",
  "business_owner": "기업여신부 팀장",
  "risk_approver": "운영리스크 담당",
  "autonomy_level": 1,
  "scopes": ["loan_docs:read", "crm:read"],
  "data_classes": ["고객 식별정보: 마스킹"],
  "model": "중형 모델(업무 난이도에 맞춰 지정)",
  "monthly_budget_krw": 300000,
  "goals": [{"metric": "누락 탐지율", "target": 0.95}],
  "review_cycle_days": 90,
  "kill_switch": {"owner": "보안운영센터", "method": "credential_revoke"}
}

Agent Hierarchy의 판정 루프를 만들려면 manager agent가 worker agent의 실행 로그에서 하루 표본(예: 에이전트당 20건)을 뽑아 채점하게 합니다. 채점은 temperature 0으로 같은 표본을 3회 돌리고, worker와 다른 계열의 모델을 써서 같은 맹점을 공유하지 않게 합니다. 출력은 verdict(keep · retrain · suspend), score(0~10), evidence(근거가 된 로그 id 목록)로 고정합니다. 3회 판정이 엇갈리거나 suspend가 나오면 사람에게 올립니다. HR agent는 판정을 모아 소유자별 주간 보고를 씁니다.

가상 설계: 레지스트리에 등록된 에이전트만 게이트웨이를 통과하고, 판정 결과가 조치로 이어집니다.

Kill switch는 프롬프트가 아니라 인프라로 답니다. “멈춰”라는 지시를 에이전트가 따르길 기대하지 않습니다. 게이트웨이에서 그 에이전트의 자격 증명을 회수하고, 큐에 쌓인 작업을 보류 상태로 돌리는 방식이어야 합니다. 정지는 에이전트 단위와 전체 단위 두 가지를 두고, 매달 한 번 실제로 눌러 몇 분 만에 멈추는지 잽니다.

Staged Autonomy는 자율 레벨 표로 운영합니다. 레벨마다 할 수 있는 일, 쓰는 범위, 사람의 역할을 정해 두면 Truist의 개인용 프레젠테이션 에이전트 같은 도구는 레벨 0으로 가볍게 등록하고, 시스템에 쓰는 에이전트만 무거운 심사를 거칩니다.

가상 예시: Truist의 개인용 프레젠테이션 에이전트는 레벨 0에 해당합니다.

Cost Matching은 레지스트리의 예산 필드로 돌립니다. 에이전트별 월 토큰 비용을 게이트웨이에서 집계해 monthly_budget_krw와 비교합니다. 예산의 80%를 넘으면 소유자에게 알리고, 같은 업무를 더 작은 모델로 돌렸을 때 판정 점수가 떨어지지 않으면 모델을 내립니다.

실패하는 경우와 대응. manager agent가 worker와 같은 오류를 못 보면 사람 표본 검토(주 1회, 판정의 5%)로 일치율을 잽니다. 판정 알림이 너무 많으면 suspend만 실시간으로 보내고 나머지는 주간 보고로 묶습니다.

현업 실행 디테일: 누가, 언제, 무엇을

역할	담당	4주 동안 하는 일
스폰서	CIO 또는 AX 추진 임원	파일럿 범위와 자율 레벨 상한 승인
업무 소유자	에이전트를 쓰는 팀장 2~3명	에이전트별 목적·목표 작성, 분기 평가
리스크	운영·모델 리스크 담당 1명	권한 scope와 데이터 등급 승인
기술	플랫폼 엔지니어 1~2명	레지스트리, 게이트웨이, kill switch 구현
보안	보안운영센터 담당 1명	정지 권한 보유, 월간 정지 시험
인사	HR 담당 1명	사람·에이전트 혼합 팀의 평가 양식 설계

시작 전 준비물: 지금 쓰는 에이전트와 AI 도구 목록(누가 만들었고 누가 쓰는지), 에이전트가 쓰는 서비스 계정과 API 키 목록, 최근 3개월 AI 비용 청구서, 기존 모델 리스크 관리 규정.

가상 예시: 에이전트 10개를 골라 등록부터 첫 평가 회의까지 4주에 돌립니다.

주차	할 일	산출물
1주	에이전트 10개 선정, 소유자·목적·자율 레벨 등록	레지스트리 초판
2주	권한 scope 승인, 게이트웨이 연결, kill switch 시험	권한 승인표, 정지 시험 기록
3주	manager agent 판정 루프 시험, 사람 검토와 일치율 측정	판정 정확도 표
4주	사람 직원과 같은 형식으로 첫 평가 회의	에이전트별 keep · retrain · 퇴역 결정

확인 질문(업무 소유자용): 이 에이전트가 없어지면 누가 무슨 일을 다시 손으로 합니까? 에이전트가 틀렸을 때 가장 비싼 실수는 무엇입니까? 지금 이 에이전트의 결과를 고객이나 경영진에게 그대로 넘기는 경우가 있습니까? 더 싼 모델로 바꿔도 되는 업무는 무엇입니까?

가상 예시: 숫자는 파일럿 판정을 위한 예시 기준입니다.

AX 적용 제언. 이 구조는 에이전트가 이미 수십 개로 늘었는데 누가 무엇을 만들었는지 아무도 모르는 조직에 먼저 맞습니다. 순서는 등록, 권한, 정지, 판정, 평가입니다. 레지스트리와 kill switch가 없는 상태에서 manager agent부터 만들면 감시할 대상도 멈출 수단도 없습니다. 금융·보험처럼 모델 리스크 규정이 있는 곳은 그 규정에 에이전트 항목을 더하는 방식이 빠릅니다. 제조·유통은 구매·정산 에이전트부터 레지스트리에 올리면 됩니다. CHRO를 초기에 부르는 것도 중요합니다. 사람과 에이전트가 섞인 팀의 평가 양식은 IT가 혼자 만들 수 없습니다.

원문 사례

항목	내용
발표처	American Banker(2026.10.22), Penny Crosman. Most Powerful Women in Banking 컨퍼런스(2026.10.20~21, 뉴욕) 논의 정리
Franklin Templeton	Sandy Kaul(디지털 자산·혁신 책임자). 에이전트 6,000개 이상, worker → manager agent → HR agent → 사람 보고, 재프로그래밍·정지 판정
Truist	Kristin Lesher(도매금융 총괄). 용도 두 가지, AI 동료에 권한·목표·성과 평가, 업무·리스크·기술 3자 책임, 모든 에이전트에 kill switch, 비용 추적
Truist 예시	고객 프레젠테이션 자료 에이전트: 본인만 사용, 시스템 안에서 행동 불가, 조언은 사람이
M&T Bank	Rhea Rajwani(AI·신규 금융 솔루션 리스크 책임자). 업무 약 75%에 에이전틱 AI, 독자 운영 불허, framework 구축 중
Barclays	Lisa Farkovits(모델·AI 리스크 관리 책임자). 사람에게 묻듯 에이전트에게 묻는 운영 전망

핵심 개념

agentic AI(에이전틱 AI): 질문에 답만 하지 않고 목표를 받아 여러 단계를 스스로 실행하는 AI.
guardrail: 에이전트가 넘지 못하게 미리 정해 둔 행동·데이터 접근의 경계.
model risk management: 금융사가 모델의 오류와 오용을 관리하는 체계. Barclays는 여기에 AI를 함께 묶어 다룬다.
perimeter: 조직 시스템의 바깥 경계. 외부 위협을 막는 기술 조직의 책임 범위.
agent registry(에이전트 레지스트리): 조직 안 모든 에이전트의 소유자·목적·권한을 적은 등록부. 이 노트에서 덧붙인 실행 개념.

내 메모

TODO: 내 생각 추가

원문: Penny Crosman, “‘Tell me what you think’: Challenges of managing AI users”(American Banker, 2026.10.22). 요약·메커니즘·통념과 다른 주장·사례·원문 사례 표는 기사에 실린 발언과 사실을 AX Review가 다시 정리했습니다. 수치(6,000개 이상, 약 75%)는 각 회사 발표자의 언급입니다. 기술·현업 디테일, JSON 예시, 자율 레벨 표, 일정·판정 기준, 인포그래픽은 새로 작성했으며 숫자는 가상 예시입니다. 원문 전체는 American Banker에서 볼 수 있습니다.