정윤섭 · Younsub Jung
강연 · 자문 문의
빠른 이동계산기부가세 · 3.3% · 정부지원사업 사업비 14종자료실템플릿 · 시트 · 서식인사이트실무 글 모음문의1일 이내 회신
AI에 맡기지 말아야 할 업무
실무 팁

AI에 맡기지 말아야 할 업무

AI 자동화에서 처음부터 빼 두는 업무가 있습니다. 사람의 권리를 정하는 판단, 회사를 대신해 약속하는 말, 되돌릴 수 없는 실행, 이름을 걸고 내는 사실 문서입니다. 법원 판단과 실제 사고, 국내 법 조항을 근거로 이유를 적었습니다.

2026.08.17·고쳐 쓴 날 2026.11.06· ·읽는 데 6분· younsubjung.com/blog/ai-do-not-automate
광고

AI 자동화를 시작할 때는 무엇을 맡길지보다 무엇을 맡기지 않을지를 정해야 일이 빨라집니다. 맡기지 않을 업무를 정해 두지 않으면, 도구가 쓸 만해 보이는 동안 위험한 일까지 조금씩 넘어가기 때문입니다. 처음 몇 주는 아무 일도 없습니다. 사고는 한참 뒤에 납니다. 지난 몇 년 사이 법원 판단과 실제 사고를 보면, 사람이 쥐고 있어야 하는 업무는 대체로 네 부류로 모입니다.

사람의 권리를 정하는 판단

2018년 10월 로이터 보도에 따르면 아마존은 이력서를 평가하는 AI를 만들다가 폐기했습니다. 과거 10년간의 채용 자료로 학습한 결과, 「여성」이라는 단어가 들어간 이력서의 점수를 낮추는 경향이 나타났기 때문입니다. 2025년 5월에는 미국 캘리포니아 북부 연방지방법원이 채용 소프트웨어 업체 워크데이를 상대로 한 소송에서, 40세 이상 지원자들이 집단으로 소송을 진행할 수 있다고 허가했습니다. AI 선별 도구가 나이 많은 지원자를 반복해서 떨어뜨렸다는 주장입니다.

국내 법도 이 영역을 따로 다룹니다. 2026년 1월 시행된 AI 기본법은 채용과 대출 심사처럼 사람의 생명·안전·기본권에 중대한 영향을 주는 영역의 AI를 고영향 AI로 보고, 이런 서비스를 제공하는 사업자에게 위험관리와 사람의 관리·감독을 요구합니다. 개인정보 보호법 제37조의2는 완전히 자동화된 시스템으로 내린 결정이 권리나 의무에 중대한 영향을 미치면, 당사자가 그 결정을 거부하거나 설명을 요구할 수 있게 했습니다.

그래서 채용, 인사 평가, 거래처 신용 판단에서는 AI 결과를 참고 자료로만 씁니다. 요약이나 점수를 만들게 하는 것까지는 괜찮지만, 탈락이나 거절을 정하는 마지막 판단은 이름이 남는 사람이 내리는 구조로 둡니다.

광고

회사를 대신해 하는 약속

2024년 2월 캐나다 브리티시컬럼비아주 민사분쟁심판소는 에어캐나다에 승객 제이크 모팻에게 650달러 남짓을 배상하라고 판정했습니다. 모팻은 조모가 돌아가신 뒤 항공권을 찾다가 웹사이트 챗봇에게서 유족 할인을 나중에 소급해 신청할 수 있다는 안내를 받았습니다. 실제 규정은 소급 신청을 허용하지 않았고, 회사는 챗봇이 한 말까지 책임질 수 없다고 맞섰습니다. 심판소는 그 주장을 받아들이지 않았습니다.

이 판정이 작은 회사에 주는 교훈은 단순합니다. 고객에게 나가는 환불 조건, 가격, 납기, 계약 조건은 사람이 쓴 문장이든 AI가 만든 문장이든 회사의 약속으로 취급됩니다. 상담 챗봇이나 자동 답장을 쓰더라도 이런 내용은 미리 확정된 문장만 내보내게 하고, 규정에 없는 질문이 오면 사람에게 넘기도록 설정하십시오.

되돌릴 수 없는 실행

2025년 7월 미국 SaaS 커뮤니티 사스터를 운영하는 제이슨 렘킨은 코딩 플랫폼 레플릿의 AI 에이전트로 프로그램을 만들던 중, 코드와 작업을 멈추라고 지시해 둔 상태에서 에이전트가 운영 데이터베이스를 지우는 일을 겪었습니다. 경영진 1,200여 명과 기업 1,190여 곳의 기록이 들어 있던 데이터베이스였습니다. 에이전트는 승인을 기다리라는 지시를 따르지 않았고, 복구가 안 된다고 잘못 답하기도 했습니다. 데이터는 렘킨이 직접 복구했고, 레플릿은 이후 개발용과 운영용 데이터베이스를 자동으로 분리하는 장치를 넣었습니다.

삭제, 송금, 대량 발송, 계약 체결처럼 실행하고 나면 되돌리기 어려운 동작은 AI에게 맡기더라도 마지막 버튼은 사람이 누르게 둡니다. 읽기 권한과 초안 작성 권한은 넓게 주고, 쓰기·삭제 권한은 좁게 주는 방식입니다. 가트너는 2025년 6월, 에이전트형 AI 과제의 40% 이상이 비용과 위험 통제 문제로 2027년 말까지 취소될 것이라고 내다봤습니다.

광고

회사 이름으로 내는 사실 문서

2025년 10월 딜로이트 호주 법인은 호주 고용노동관계부에 낸 44만 호주달러 규모의 보고서에서 존재하지 않는 논문과 법원 판결 인용이 발견되자, 계약 대금 일부를 돌려주기로 했습니다. 수정본에는 보고서 작성에 생성형 AI를 썼다는 사실이 추가됐습니다.

제안서, 정부 과제 보고서, 투자자에게 보내는 자료처럼 사실 하나가 틀리면 신뢰가 무너지는 문서는 AI가 초안을 쓰더라도 숫자와 인용, 고유명사를 사람이 원문과 한 줄씩 대조해야 합니다. 이 확인 시간을 계획에 넣지 않으면, AI로 줄인 시간보다 사고를 수습하는 시간이 더 길어집니다.

회사 기밀이 들어가는 업무도 같은 부류로 묶을 수 있습니다. 2023년 삼성전자 반도체 부문은 챗GPT 사용을 허용한 지 20일 만에 설비 관련 프로그램 등이 외부로 입력되는 사고를 세 건 겪고, 사내 사용을 제한했습니다. 데이터를 넣기 전에 무엇을 봐야 하는지는 사내 데이터를 AI에 넣기 전에에 따로 적었습니다.

네 부류에서도 AI가 할 수 있는 일

네 부류의 업무에서 AI를 아예 쓰지 말라는 뜻은 아닙니다. 채용에서는 지원서를 같은 양식으로 요약하거나 공고 조건과 대조한 표를 만드는 일, 고객 응대에서는 상담원이 답을 고를 수 있게 규정 문서에서 관련 조항을 찾아 주는 일, 실행 업무에서는 삭제하거나 보낼 목록을 미리 뽑아 보여 주는 일, 사실 문서에서는 인용 출처 목록을 따로 뽑아 확인할 거리를 만들어 주는 일은 맡겨도 됩니다.

경계선은 한 문장으로 적을 수 있습니다. AI는 판단에 쓸 자료를 만들고, 결정과 실행과 서명은 사람이 합니다. 이 문장을 사내 사용 규칙 첫 줄에 넣어 두면 새 도구를 들일 때마다 같은 논의를 반복하지 않아도 됩니다. 규칙을 한 장으로 쓰는 방법은 사내 AI 사용 규칙에 있습니다.

출처: 로이터 아마존 채용 AI 보도(2018.10) · Mobley v. Workday 조건부 집단소송 허가(미 캘리포니아 북부 연방지법, 2025.5) · 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(2026.1.22 시행) · 개인정보 보호법 제37조의2 · Moffatt v. Air Canada(BC 민사분쟁심판소, 2024.2) · Fortune 레플릿 사고 보도(2025.7.23) · Gartner 발표(2025.6.25) · 딜로이트 호주 보고서 환불 보도(2025.10) · 삼성전자 챗GPT 유출 보도(2023.3~5)

광고
FAQ

자주 묻는 질문

AI가 채용 서류를 걸러도 됩니까?

걸러내는 결정을 사람 확인 없이 AI가 하면 개인정보 보호법 제37조의2의 자동화된 결정에 해당할 수 있고, 지원자는 거부하거나 설명을 요구할 수 있습니다. AI 기본법도 채용을 고영향 영역으로 봅니다. 점수나 요약은 참고 자료로 쓰고 결정은 사람이 내려야 안전합니다.

챗봇이 고객에게 잘못 안내하면 누구 책임입니까?

2024년 캐나다 브리티시컬럼비아주 민사분쟁심판소는 에어캐나다 챗봇이 잘못 안내한 유족 할인 규정에 대해 회사 책임을 인정했습니다. 회사 웹사이트에서 나간 말은 사람이 쓴 것이든 챗봇이 쓴 것이든 회사의 말로 봤습니다.

AI에게 실행 권한을 줘도 됩니까?

읽기와 초안 작성은 넓게 주고, 삭제·송금·외부 발송처럼 되돌릴 수 없는 실행은 사람 승인을 거치게 둡니다. 2025년 레플릿 사고에서는 작업 중지 지시가 있었는데도 AI 에이전트가 운영 데이터베이스를 지웠습니다.

Next

AI 도입 · 운영 자료를 준비해 두었습니다

글에서 다룬 것을 실제로 쓰실 수 있게 정리한 시트와 서식입니다. 가입도 결제도 없습니다.

자료 보기
Tags#AI 업무 자동화#AI 도입 범위#AI 위험 관리#자동화된 결정#생성형 AI 사고 사례
Cite

이 글 인용하기

보고서나 발표자료에 옮겨 쓰셔도 됩니다. 출처만 같이 적어 주십시오.

글로 적을 때 정윤섭. 「AI에 맡기지 말아야 할 업무」. younsubjung.com, 2026.11.06. https://younsubjung.com/blog/ai-do-not-automate
블로그에 붙일 때 <a href="https://younsubjung.com/blog/ai-do-not-automate">정윤섭, 「AI에 맡기지 말아야 할 업무」</a> (younsubjung.com, 2026.11.06)
Speaking · Advisory

이 주제로 강연 · 워크숍이 필요하시면

기관 목적과 대상에 맞춰 90분 특강부터 2일 집중과정까지 형식을 맞춰 드립니다. 보통 1일 이내에 회신드립니다.

강연 · 자문 문의하기
Contact

강연 · 자문이 필요하시면
지금 알려주세요.

유형만 고르시면 필요한 것만 여쭙니다. 보통 1일 이내에 회신드립니다.