고객에게 AI를 썼다고 알리는 자리

고객 문의에 AI가 초안을 씁니다. 사람이 확인해서 보냅니다. 이걸 알려야 할까요.

예의 문제로 보기 쉬운데, 우리나라에서는 법에 고지와 표시 의무가 들어 있습니다.

법이 정한 3가지

인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 제31조는 「인공지능 투명성 확보 의무」라는 제목으로 3가지를 정하고 있습니다.

구체적인 방법과 예외는 같은 조 제4항에 따라 대통령령에 정해져 있습니다. 실제로 문구를 만들기 전에 시행령을 함께 보십시오.

어디에 둡니까

사내에서만 쓰는 경우

이 조항은 이용자에게 제공하는 제품이나 서비스를 전제로 합니다. 사내에서만 쓰는 도구는 다른 이야기입니다.

다만 사내에서 만든 문서가 밖으로 나가는 순간, 밖에서는 그것이 우리 서비스의 일부로 읽힙니다. 그래서 나가는 문서에 대한 규칙은 따로 정해 두는 편이 안전합니다. 누가 확인하는지, 확인했다는 것을 어떻게 남기는지.

알리면 손해입니까

「AI가 씁니다」를 알리면 고객이 떠날까 걱정하는 분이 많습니다.

대체로 반대입니다. 나중에 알게 되는 쪽이 훨씬 나쁩니다. 그리고 알릴 때 무엇을 사람이 하는지를 함께 적으면 인상이 달라집니다.

「초안은 AI가 만들고 답장은 담당자가 확인해서 보냅니다」. 이 한 문장은 숨기는 것보다 낫고, 아무 말도 안 하는 것보다도 낫습니다.

먼저 할 일

우리 서비스에서 AI가 관여하는 자리를 목록으로 적어 보십시오. 고객이 보는 화면, 고객에게 가는 문서, 고객의 데이터를 처리하는 부분.

이 목록이 있으면 어디에 고지를 두고 어디에 표시를 붙일지가 정해집니다. 목록 없이 문구부터 만들면 빠지는 자리가 생깁니다.

이 글의 근거

인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 제31조(인공지능 투명성 확보 의무) 제1항부터 제4항까지는 국가법령정보센터의 현행 조문을 확인해 적었습니다. 고지와 표시의 구체적 방법 및 예외는 같은 조 제4항에 따라 대통령령에 정해지므로, 실제 적용 전에 시행령과 소관 부처 안내를 함께 확인하십시오. 저는 변호사가 아닙니다.