AI에 일을 맡길 때 넘기면 안 되는 것

도구가 달라지고 있습니다. 답을 만들어 주는 데서 그치지 않고, 스스로 단계를 나눠 실행까지 하는 형태가 늘고 있습니다.

편합니다. 그런데 이때부터는 「틀렸을 때 무슨 일이 생기는가」를 같이 봐야 합니다.

기준은 하나입니다

되돌릴 수 있는가.

초안을 잘못 썼으면 고치면 됩니다. 분류를 잘못했으면 다시 하면 됩니다. 이런 일은 맡겨도 됩니다.

그런데 밖으로 나간 것과 지워진 것은 되돌릴 수 없습니다.

Figure 1

되돌릴 수 없는 네 자리

01

보낸 메시지

고객이나 거래처에 나간 메일과 알림. 정정 메일을 보내도 첫 인상은 남습니다.

02

공개된 글

웹이나 소셜에 올라간 것. 내려도 캡처는 남습니다.

03

움직인 돈

결제, 이체, 주문. 취소가 되더라도 절차와 시간이 듭니다.

04

지워진 데이터

파일, 레코드, 계정. 백업이 없으면 그냥 없어진 것입니다.

마지막 한 단계

「사람 확인을 넣으면 자동화가 아니지 않느냐」는 이야기를 듣습니다.

그렇지 않습니다. 열 단계 중 아홉이 자동이고 마지막 하나만 사람이 누르는 구조면, 시간은 거의 그대로 아낍니다.

대신 사고가 안 납니다.

중요한 건 그 확인 화면입니다. 「승인하시겠습니까」만 뜨면 사람이 그냥 누릅니다. 무엇을 누구에게 보내는지가 요약돼 있어야 확인이 됩니다.

권한은 좁게 시작합니다

도구에 계정 권한을 줄 때, 편의를 생각해 넓게 주는 경우가 많습니다.

넓게 주고 나중에 줄이는 건 어렵습니다. 이미 그 권한에 기대어 만들어진 것들이 있으니까요.

읽기만 필요하면 읽기만 주십시오. 특정 폴더만 필요하면 그 폴더만요.

그리고 어떤 도구에 어떤 권한이 나가 있는지 목록을 만들어 두십시오. 사람이 나갈 때 계정을 정리하듯이, 도구도 정리해야 할 때가 옵니다.

기록이 있어야 고칩니다

문제가 생겼을 때 물어야 할 건 하나입니다. 어느 단계에서 어긋났는가.

시킨 내용이 부족했는지, 중간 판단이 틀렸는지, 아니면 자료가 낡았는지.

기록이 없으면 이걸 못 가립니다. 그러면 「AI가 이상하다」로 끝나고 다음에 또 같은 일이 생깁니다.

무엇을 시켰고 무엇을 했는지가 남게 만들어 두십시오. 길지 않아도 됩니다.

사람이 계속 봐야 하는 일

되돌릴 수 있어도 사람이 계속 봐야 하는 일이 있습니다.

판단의 책임이 사람에게 남는 일입니다. 채용, 평가, 계약 조건, 고객 응대에서 예외를 인정하는 결정.

이런 일은 도구가 초안을 만들어도 결정은 사람이 합니다. 그리고 그 결정을 왜 그렇게 했는지 사람이 설명할 수 있어야 합니다.

도구가 바뀌어도 이 넷은 그대로입니다

되돌릴 수 있으면 맡기고, 없으면 마지막에 사람을 넣습니다.

권한은 좁게 시작하고, 기록은 남기고, 책임이 남는 판단은 사람이 합니다.

도구는 계속 좋아지지만 이 4가지는 도구가 바뀌어도 그대로입니다.

FAQ

자주 묻는 질문

AI가 스스로 실행하게 해도 됩니까?

되돌릴 수 있는 일이면 됩니다. 초안 작성, 분류, 정리처럼 결과를 보고 고칠 수 있는 일입니다. 되돌릴 수 없는 일은 사람 확인을 넣으십시오.

무엇이 되돌릴 수 없는 일입니까?

밖으로 나간 것과 지워진 것입니다. 고객에게 발송된 메일, 공개된 게시물, 이체된 돈, 삭제된 데이터. 이 넷은 취소가 안 됩니다.

권한은 어떻게 줍니까?

필요한 것만 좁게 줍니다. 읽기만 필요하면 읽기만, 특정 폴더만 필요하면 그 폴더만. 넓게 주고 나중에 줄이는 것은 훨씬 어렵습니다.

기록은 무엇을 남깁니까?

무엇을 시켰고 무엇을 했는지입니다. 문제가 생겼을 때 어느 단계에서 어긋났는지를 봐야 고칠 수 있습니다.

사람 확인을 넣으면 자동화의 의미가 없지 않습니까?

마지막 한 단계만 사람이 눌러도 앞의 아홉 단계가 자동입니다. 그 한 단계가 시간을 크게 늘리지는 않습니다.