“2025년까지 최소 30% 생성형 AI 프로젝트 중단될 것”…가트너, 데이터 품질 저하, 비용 및 위험 증가 등이 원인

"경영진은 생성형 AI 투자에 대한 수익을 보고 싶어 하지만, 조직은 가치를 입증하고 실현하는 데 어려움을 겪고 있다. 이니셔티브의 범위가 확대됨에 따라 생성형 AI 모델 개발 및 배포에 대한 재정적 부담이 점점 더 커지고 있다. 조직은 생산성 향상을 위해 생성형 AI에 대한 막대한 투자를 정당화하는 데 큰 어려움을 겪고 있다.”

가트너(Gartner)가 2025년 말까지 최소 30% 이상의 생성형 AI 프로젝트가 중단될 것으로 전망했다. 데이터 품질 저하, 부적절한 위험 관리, 비용 증가, 확실하지 않은 사업 가치 등의 문제에 직면하면서 개념 증명(proof of concept) 과정을 거친 프로젝트 일부가 멈출 것으로 예상한 것이다.

생성형 AI의 배포 또는 도입 방식에 따라 초기 및 운영 비용이 적지 않고 맞춤형 기능이 많을수록 비용이 급격하게 증가한다. (자료 : Gartner)

특히, 초기 및 운영에 막대한 비용이 들어가는 점은 생성형 AI의 안착을 방해하는 가장 큰 걸림돌이라고 지적했다. 생성형 AI를 도입해 생산성 향상과 비즈니스 혁신의 기회를 창출할 수 있지만 이를 위해 투자해야 하는 비용을 정당화할 만큼 실제 얻게 되는 재정적 이익 규모를 산출하는 것이 쉽지 않기 때문이다.

가트너는 상업용 생성형 AI 앱을 코딩 도우미로 사용하는데 10만~20만 달러의 초기 비용이 필요하고, 이를 유지하는 데 일 년에 사용자 한 명당 약 280~550달러가 들어가는 것으로 추정했다. API를 활용한 고객 맞춤형 임베디드 형태의 생성형 AI는 초기 도입에 75만~100만 달러의 초기 투자와 사용자 한 명당 연간 790~1,200달러의 추가 비용이 들어갈 것으로 예상했다.

이를 좀 더 넓은 범위로 확대하면 비용은 더욱 증가한다. RAG를 활용한 문서 검색처럼 데이터 검색을 통한 생성형 AI 모델을 도입할 경우 초기에 75만~100만 달러, 가상 비서를 활용하려면 초기 도입 비용으로 500만~650만 달러, 모든 것을 기업 맞춤형으로 처음부터 구축할 경우 최소 800만~2,000만 달러가 소요될 것으로 예측했다.

가트너의 연구 부사장인 리타 살람(Rita Sallam)은 "안타깝게도 생성형 AI에는 모든 것에 적합한 솔루션이 없으며, 다른 기술만큼 비용을 예측할 수 없다. 지출하는 비용, 투자하는 사용 사례, 배포 방식이 모두 비용을 결정한다. 시장을 혁신하고 모든 곳에 AI를 도입하려는 기업이든, 생산성 향상이나 기존 프로세스 확장에 보다 보수적으로 초점을 맞추는 기업이든, 각각 비용, 위험, 변동성, 전략적 영향의 수준이 다르다"며 생성형 AI 도입의 어려움을 설명했다.

그러면서 “가트너 연구에 따르면 AI 야망과 관계없이 생성형 AI는 즉각적인 투자 수익(ROI)보다 간접적인 미래 재무 투자 기준에 더 높은 관용을 필요로 하는 것으로 나타났다. 역사적으로 많은 CFO는 미래의 간접적 가치를 위해 현재에 투자하는 것에 익숙하지 않다. 이러한 거부감은 전술적 성과와 전략적 성과에 대한 투자 배분을 왜곡할 수 있다”고 전했다.

그럼에도 불구하고 생성형 AI를 도입한 기업에서는 평균적으로 15.8%의 매출 상승, 15.2% 비용 절감, 22.6%의 생산성 향상이 나타난 것으로 설문 조사 결과 드러났다. 설문 조사는 822명의 비즈니스 리더를 대상으로 2023년 9월에서 11월 사이에 진행되었으며, 사용 사례, 직무 유형, 근로자의 기술 수준에 따라 다양한 비즈니스 개선 사항이 나타난 것으로 조사됐다.

살람 부사장은 "이 데이터는 생성형 AI 비즈니스 모델 혁신에서 파생되는 비즈니스 가치를 평가하는 데 유용한 기준점이 된다. 하지만 기업, 사용 사례, 역할 및 인력에 따라 혜택이 매우 다양하기 때문에 이러한 가치를 추정하는 데 어려움이 있음을 인정하는 것이 중요하다. 종종 그 영향이 즉각적으로 드러나지 않고 시간이 지남에 따라 구체화될 수 있다. 하지만 이러한 지연으로 인해 잠재적인 혜택이 줄어들지는 않는다”고 조언했다.

 

⧉ Syndicated to WWW.CIOKOREA.COM