AI 시대의 역설, 의사결정은 분산되고 책임은 집중

연휴로 대부분의 직원이 자리를 비운 주말, 핵심 시스템이 갑작스럽게 멈춘다. AI 기반 워크플로우가 중단되거나, 더 나아가 대규모로 잘못된 의사결정을 내려 제품 가격을 잘못 책정하거나 민감한 데이터를 노출할 수도 있다. 이 순간 조직 이론은 무의미해지고, ‘누가 책임을 지는가’라는 질문이 즉각적으로 제기된다. AI가 실험 단계를 넘어 운영 환경으로 확산되면서 책임 문제는 더 이상 기술 영역에 머물지 않는다. 이제는 경영진이 직접 다뤄야 할 사안이다. 거버넌스 프레임워크는 법무, 리스크, IT, 사업 부서 간 책임이 분산된다고 설명하지만, 실제 사고가 발생하면 법원은 책임을 훨씬 좁은 범위로 판단할 가능성이 크다. 결국 AI는 의사결정을 분산시킬 수는 있지만, 법적 책임까지 분산시키지는 못한다. 법정에 서는 것은 AI가 아닌 ‘사람’ AI 시스템이 중요한 의사결정에 영향을 미쳤더라도, 법정에 서는 것은 알고리즘이 아니라 사람이다. AI·지식재산권 전문 변호사이자 리버리지 리걸 그룹(Leverage Legal Group) 설립자인 제시카 이브스 매튜스는 “법정에 서게 되는 것은 AI가 아니라 이를 개발하거나 배포하거나 활용한 인간”이라고 말했다. 다만 현재로서는 이러한 책임 판단을 뒷받침할 판례가 거의 없다는 점이 가장 큰 불확실성으로 꼽힌다. 매튜스는 “아직 많은 부분이 추정 단계에 머물러 있다”라며 “초기 인터넷 시절처럼 기존 법 체계가 새로운 기술에 어떻게 적용되는지 정립해가는 과정”이라고 설명했다. width="1240" height="827" sizes="auto, (max-width: 1240px) 100vw, 1240px"> Jessica Eaves Mathews, founder, Leverage Legal Group LLG 규제 당국은 책임을 알고리즘에 전가할 수 없다는 점을 분명히 하고 있다. 그러나 공급업체, 도입 기업, 경영진 간 책임이 어떻게 배분될지는 여전히 불확실하다. 다만 이 같은 불확실성이 오래 지속되지는 않을 전망이다. 매튜스는 “잘