공급망 기업 6곳 중 1곳, AI 도구로 고객·공급업체 데이터 노출 사고

공급망·물류·유통·도매 분야 기업 6곳 중 1곳은 지난 1년 사이 인공지능(AI) 도구가 공급업체나 고객 데이터를 잘못 노출하거나 공유한 사고를 겪은 것으로 조사됐다. 기업용 AI 에이전트 제공업체 Instalily가 발표한 설문조사 결과다.

Instalily가 지난 10월 9일 공급망·물류·유통·도매 분야 관리자급 이상 250명을 대상으로 실시한 조사에 따르면 응답자의 16%가 이 같은 데이터 노출 사고를 경험했다고 답했다. 이번 조사 결과는 '공유된 위험: 공급망의 가장 민감한 데이터에 산업 맞춤형 AI가 필요한 이유'라는 제목의 보고서에 담겼다.

AI 도구가 상업적으로 민감한 정보에 접근하는 범위는 상당했다. 응답자의 78%는 자사 AI 도구가 고객 가격과 마진 정보에 접근할 수 있다고 답했으며, 67%는 공급업체 가격과 리베이트 데이터에 접근 가능하다고 밝혔다.

Instalily는 보고서에서 유통업체와 도매업체, 물류기업이 거래 양측의 기밀 정보를 일상적으로 다루는 만큼 이 같은 결과가 문제라고 지적했다. 예컨대 AI가 한 고객의 계약 가격을 다른 고객 견적서에 잘못 기재하거나, 공급업체 입찰가를 경쟁사에 노출하거나, 중개 마진 뒤에 숨은 운임을 화주에게 보여주는 경우 관련된 모든 당사자에게 피해가 미칠 수 있다고 설명했다.

응답자의 63%는 AI 도구를 포함한 회사 플랫폼 전반에서 공급업체와 고객 데이터가 일부 겹쳐 있다고 답했다. 87%는 자사 AI가 데이터를 적절히 분리 보관한다고 확신하거나 어느 정도 신뢰한다고 밝혔지만, 조사 대상 모든 부문에서 사고가 보고된 것으로 나타났다.

뉴욕 소재 Instalily는 기업들이 견적 작성 과정에서 기밀 공급업체 조건이 노출되지 않는지 등 AI가 업무 전 과정에서 기밀 정보를 어떻게 처리하는지 시험해볼 필요가 있다고 조언했다. 보고서는 일상 업무에서 통제 기능을 점검하고 사람의 승인이 필요한 시점을 명확히 설정할 것을 권고했다.

업계에서는 AI 도구가 공급망 데이터에 접근하는 범위가 빠르게 넓어지는 가운데 접근 권한과 감사 기록을 갖춘 산업 특화 솔루션에 대한 수요가 늘어날 것으로 내다봤다.

출처: Instalily