“AI 신뢰성, 정확・완전・안전한 데이터가 좌우”…세일즈포스, 신뢰는 기업 AI의 핵심

“엔터프라이즈 AI의 미래는 더 많은 데이터에 관한 것이 아니라, 올바른 데이터에 관한 것이다. 생성형 AI 출력은 신뢰할 수 있는 데이터에 기반을 두어야 하며, AI가 회사 자체 데이터에 기반을 둘 때 더 유용한 결과를 제공하고 궁극적으로 더 큰 신뢰와 채택을 유도한다.”

세일즈포스(Salesvorce)가 ‘AI와 데이터 신뢰성 설문조사(Your Data, Your AI survey)’를 발표했다. 전 세계 지식근로자 약 6,000 명을 대상으로 한 이번 설문에서 ‘AI 데이터의 신뢰성에 문제가 있는 것으로 나타났다’고 세일즈포스는 밝혔다. 신뢰는 기업 AI의 핵심인데, 신뢰성이 높은 데이터가 부족하다는 것이다.

기업에서 AI를 도입하고 이를 효율적으로 활용하려면, AI에서 사용할 수 있는 정확하고 완전하며 안전한 데이터 문제가 우선 해결되어야 하는 것으로 설문 조사에서 나타났다. (자료 : Salesforce)

설문 조사에서 AI 사용자의 56%가 현재 AI에서 원하는 것을 얻기 어렵다고 답변했으며, 절반 이상이 현재의 AI 시스템을 훈련하는 데 사용되는 데이터를 신뢰하지 않는다고 응답했다. 3/4 이상의 설문 참여자는 AI에 대한 신뢰를 구축하려면 정확하고 완전하며 안전한 데이터가 중요하다고 생각하고 있었다.

비즈니스 리더의 80%가 생성형 AI가 비즈니스 비용을 낮추고 수익을 높일 것이라고 믿고 있었다. 하지만, 대부분의 직원은 생성형 AI를 자신의 역할과 조직에서 성공적으로 사용하려면 우선 신뢰할 수 있는 고객 데이터가 필요하다고 여기고 있는 것으로 나타났다.

AI 사용자의 51%가 생성형 AI를 유용하게 활용할 수 있는 정보가 부족하다고 답변했다. AI를 학습시키는 데 사용하는 데이터를 신뢰하지 않는다고 여기는 응답자 중에서, 75%는 AI에 유용한 정보가 부족하다고 생각하고, 68%는 그래서 AI 도입을 주저하고 있는 것으로 조사됐다.

62%의 근로자(Worker)는 오래된 공공 데이터로 인해 AI에 대한 신뢰가 깨질 수 있다고 답했으며, 71%의 근로자는 지속적으로 부정확한 결과가 나오면 AI에 대한 신뢰가 깨질 것이라고 응답했다. 또한, AI 사용자의 54%는 AI 시스템 학습에 사용되는 데이터를 신뢰하지 않았으며, AI를 신뢰하지 않는 근로자의 68%는 학습 데이터가 신뢰할 수 없다고 답변했다.

세일즈포스는 “AI가 최고 품질의 결과를 생성하며 실질적인 비즈니스 가치를 제공하려면 LLM( Large Language Models )이 고객 데이터, IoT 및 원격 측정 데이터 등을 포함하여 신뢰할 수 있는 기업 데이터에 기반을 두어야 한다”고 밝혔다.

하지만, “오늘날 대부분의 회사 데이터는 다양한 클라우드 및 온프레미스 애플리케이션, 데이터베이스, 데이터 웨어하우스, 데이터 레이크 등 단절된 사일로에 갇혀 있어 전체적인 디지털 전환과 가치 실현이 어렵다. 더 나쁜 것은 AI 모델을 기반으로 하는 데 사용되는 데이터가 불완전하거나 부정확하거나 관련성이 없는 경우가 많아 일관되지 않고 부정확한 결과를 초래한다”고 전했다.

신뢰할 수 있는 데이터가 작업 프로세스에 따라 유기적으로 연결되고 이동하며, AI가 필요로 하는 학습과 정보의 원천이 되어야 기업의 AI가 효과적으로 활용될 수 있다는 것이다. 이를 위해서는 단절된 시스템과 화면으로 전환하도록 요구하기보다는 영업, 서비스, 마케팅, 상거래, 개발자 및 기타 직원이 일하는 곳의 흐름에 AI를 제공해야 한다고 세일즈포스는 강조했다.

 

⧉ Syndicated to WWW.CIOKOREA.COM