[Tax Watch] AI 분석 믿고 수십억 발주…누가 책임져야 할까

한국AI서비스학회 세미나 열려

#. AI가 시장 상황을 분석한 뒤 "한 비거래처에서 원자재 500톤을 미리 사두는 것이 85% 확률로 최적"이라고 제안했다. 경영진이 이 판단만 믿고 수십억원 규모의 발주를 결정했다가 문제가 생겼다면 책임은 누가 져야 할까.

이는 실제 기업 현장에서 충분히 벌어질 수 있는 상황이다.

AI가 사람보다 빠르게 날씨와 물류비, 환율 등 수많은 데이터를 분석해 최적의 선택지를 찾아낼 수 있기 때문이다.

지용구 더존비즈온 공동대표는 22일 서울 더존을지타워에서 열린 한국AI서비스학회 AI경영정보서비스분과 3분기 정기세미나에서 'AI와 거버넌스' 발표를 통해 "AI의 판단만 믿고 곧바로 발주해서는 안 된다"고 강조했다.

AI가 회사의 구매 예산이 충분한지, 해당 거래처가 내부 규정에 맞는 곳인지까지 모두 책임질 수는 없기 때문이다.

지 대표는 이를 '확률을 계산하는 AI, 규칙을 검증하는 시스템, 결단하는 인간'의 구조로 설명했다. 그는 "AI의 실행 능력이 커질수록 경영자는 위임의 범위와 검증 책임의 구조를 함께 설계해야 한다"고 강조했다.