성공하는 AI '사용자 경험, 투명성, 우선 순위'…구글, AI 솔루션 설계에서 얻은 교훈 3가지

“생성형 AI는 엄청난 잠재력을 가지고 있지만, 그 성공 여부는 사려 깊은 설계에 달려 있다. 투명성, 사용자 자율성, 설명 가능성, 실행 가능성, 개인화, 지속적인 피드백 루프를 우선시함으로써, 사용자와 비즈니스 모두에게 신뢰할 수 있고 권한을 부여하며 진정으로 유익한 생성형 AI 솔루션을 만들고 점진적으로 업데이트할 수 있다.”

구글 클라우드가 생성형 AI 솔루션 구축을 위한 세 가지 핵심 요소를 ‘생성형 AI 솔루션 설계 : 주요 교훈’이라는 제목으로 블로그를 통해 공개했다. 실제 현장에서 고객들을 도와 생성형 AI의 설계와 개발을 담당했던 응용 AI 엔지니어링 부서의 쿨란 다바자브(솔루션 컨설턴트 및 UX 디자이너)와 후세인 치노이(기술 솔루션 관리자)가 경험을 공유한 것이다.

그들은 생성형 AI를 설계할 때 가장 중요하게 생각해야 하는 것으로 ‘원활한 경험 제공(Offer Frictionless Experiences)’, ‘투명성을 통한 신뢰 구축(Build Trust Through Transparency)’, 목표의 우선순위 선정(Prioritize Your Goals)’을 꼽았다. 이러한 세 가지 포괄적인 설계 원칙이 선행되고 적용되어야 성공적인 생성형 AI 솔루션을 구축할 수 있다는 것이다.

생성형 AI가 출력한 결과를 신뢰할 수 있으려면 어떻게 그런 결과가 나왔는지 이해할 수 있어야 한다. 결과 생성에 사용한 출처와 링크를 제공하는 것도 방법이다. (자료 : Google)

 

첫째, 원활한 경험 제공은 ‘사용자 입장에서 AI의 역할을 공개적으로 알리고 소통함으로써 신뢰 구축과 사용자 역량을 강화’하는 것이다. 생성형 AI가 어떤 작업을 수행하고 이를 통해 어떤 결과물을 출력하는 지를 명확하고 투명하게 알려주어야, 현실적인 기대치를 설정하고 혼란을 방지할 수 있다는 것이다.

이를 위해서 “AI가 생성한 콘텐츠나 결과를 구분할 수 있도록 아이콘, 색상 코딩, 텍스트 레이블 등의 명확한 시각적 신호를 적용해 분명하게 구분하고 인식할 수 있도록 한다. 또한 특정 출력이 어떻게 생성되었는지 자세한 내용을 사용자가 요청할 수 있도록 점진적인 공개 매커니즘을 제공해야 한다”고 조언한다.

다양한 경험 수준과 업무 특성에 맞게 분류한 다양한 사례 제공, AI 모델 진화에 따른 변화 내용을 정기적으로 업데이트, AI가 생성한 결과에 대해 사용자가 어떤 선택과 행동을 할 수 있는지를 명확하게 설명하는 것도 필요하다. 그리고 이러한 것들을 기존의 업무와 원활하게 통합하는 데 집중해야 한다.

둘째, 투명성을 통한 신뢰 구축은 ‘생성형 AI가 출력한 결과가 어떻게 얻어졌는지 납득하고 이해’할 수 있어야 한다. 생성형 AI가 내놓은 콘텐츠나 자료가 어떤 과정을 통해 어떤 소스로부터 어떤 방법으로 얻어졌는지를 알 수 없다면, 당연히 결과를 신뢰할 수 없고 신뢰할 수 없다면 사용할 수 없다.

이를 위해서 “AI의 결과에 영향을 미친 주요 요인을 강조 표시(Highlight key factors)하거나 시각화를 사용하여 AI의 의사 결정을 표현한다. 또한, 생성된 콘텐츠에 직접 인용문을 삽입하고, 참조된 출처 목록을 제공하며, AI의 응답에 영향을 준 출처의 특정 구절을 강조 표시하라”고 전했다.

특히 ‘개인화를 신중화게 활용’하라고 강조하며, “개인화는 개별 사용자에게 맞춤화된 경험을 제공해 올바르게 수행하면 사용자가 고유하고 관련성 높은 옵션을 발견하는 데 도움이 된다. 하지만 개인화와 탐색 및 윤리적 고려 사항의 균형을 맞추는 것이 중요하다”고 설명했다.

셋째, 목표의 우선순위를 정하는 것은 ‘의도 중심(Intent-Focused)과 탐색 지향(Browsing-Oriented)의 균형을 맞추는 것’이다. 최고의 생성형 AI 경험은 ‘구조화된 작업 완료’와 ‘개방형 탐색’의 균형이 맞을 때 달성할 수 있다는 것이 그들의 제언이다.

이를 위해서 “’신제품에 대한 마케팅 메일 작성’이나 ‘뉴스 기사 요약’처럼 사용자가 명확한 목표를 가지고 있는 경우, 그 의도를 표현할 수 있는 직접적인 경로를 제공한다. 검색창과 같이 익숙한 패턴을 대화형 기능으로 보강하여 입력을 간소화하는 것이 중요하다”고 그들은 제안했다.

반대로 “’생일 카드 아이디어 얻기’나 창의적인 브레인스토밍을 하는 데 필요한 자료’처럼 사용자의 목표가 정의되지 않았거나 명확하지 않은 경우에는 발견에 초점을 맞춰 사용환경을 제공한다. 프롬프트, 제안, 반복적으로 결과를 구체화할 수 있는 기능을 제공하라”고 추천했다.

그들은 이러한 요소를 기반으로 생성형 AI를 설계하고 구축한 다음에는 ‘더 나은 사용자 경험을 위해 AI와 협력’하라고 강조한다. 생성형 AI의 능력을 개선하는 데는 사용자의 피드백은 절대적이기 때문이다. 즉, 사용자가 AI의 행동에 대해 평가할 수 있는 메커니즘을 제공하면, 모델을 개선하는 데 중요한 데이터를 얻고 사용자에게 권한을 부여하는데 도움이 된다.

이를 위한 방법으로 ►직관적인 피드백 메커니즘 구현(좋아요/싫어요, 댓글, 평가) ►피드백을 AI의 결과물에 직접 연결(특정 결과의 맥락에서 피드백 허용) ►사용자의 피드백으로 AI의 응답이 어떻게 개선되었는지 사용자에게 보여주기 ►데이터 수집 관련 투명성(사용자 피드백의 수집, 저장, 사용에 대한 명확한 설명) ►오류 처리(문제 보고 방법 & 대체 솔루션이나 리소스 제공)가 필요하다고 강조했다.

 

⧉ Syndicated to WWW.CIOKOREA.COM