“비용 줄이고 민첩하게 혁신 가능”…메타, 오픈소스 AI 라마 활용 사례

“오픈 소스 AI 모델을 통해 모든 규모의 기업은 개인, 사회, 경제에 도움이 되는 혁신적인 신제품과 도구를 개발할 수 있으며, 그 과정에서 시간과 비용을 절약할 수 있다. 오픈 소스 AI의 비용 효율적인 작업 방식이 없었다면 일자리 창출, 지식 접근, 신약 연구와 같은 필수 분야에서 세계를 발전시킬 수 있는 이러한 혁신은 불가능했을지도 모른다.”

메타(Meta)가 자사의 오픈 소스 AI 모델인 라마(LIama)를 활용하고 있는 기업과 의료 분야 사례를 공개하면서, ‘비용 효율적인 오픈 소스 AI’가 없다면 AI 사용이 필수적인 분야에서 혁신은 불가능할 것이라고 밝혔다. 초기 도입과 구축에 막대한 시간과 비용이 들어가는 AI 플랫폼이나 솔루션에서 라마와 같은 오픈 소스의 중요성을 강조한 것이다.

메타의 라마 모델을 사용하 구축한 워싱턴 포스트의 ‘애스크 더 포스트 AI’는 2016년 이후의 기사 아카이브를 기반으로 독자가 질문한 내용에 답변한다. (자료 : The Washington Post)

첫 번째 사례로 소개된 곳은 미국 오클라호마에 본사를 둔 라이트씨(WriteSea)로, 라마를 사용해 AI 커리어 코치인 ‘잡 서치 지니어스(Job Search Genius)’를 구축했다. 치열한 경쟁이 벌어지는 구직 시장에서 직장을 찾고 있는 수많은 지원자들에게 필요한 정보와 훈련을 제공하는 데 AI를 활용한다.

예를 들면 구직자에게 맞는 맞춤형 이력서 작성, 모의 면접을 통한 면접 능력 향상, 연봉 협상 방법 등을 배우도록 돕는다. 이 과정에서 비디오 기반 면접을 수월하게 진행하고, 지원자의 답변을 텍스트로 옮기고, 면접 과정을 개선할 수 있는 지표를 제공한다.

라이트씨의 CEO인 브랜든 미첼은 “오픈 소스 덕분에 API 호출 비용을 절감할 수 있고 10만 명 이상의 사용자를 지원할 수 있도록 빠르게 확장할 수 있었기 때문에 비용 효율적이다”며 라마를 선택 이유를 밝혔다.

두 번째 사례는 워싱턴 포스트(The Washington Post)로 라마를 활용해 ‘애스크 더 포스트(Ask The Post) AI’라는 도구를 구축했다. 독자가 챗봇에게 질문을 하면 2016년 이후로 작성된 워싱턴 포스트의 기사 아카이브에서 질문 내용을 검색해 답변을 해준다. 이미 작성한 기사를 기반으로 답변을 해주고 기사의 링크도 함께 제공하기 때문에 투명성과 책임성을 보장한다.

워싱턴 포스트의 CTO인 비넷 코슬라(Vineet Khosla)는 “세계는 뉴스의 속도로 움직이고 있으며 오픈 소스 AI는 사람들이 앞서 나갈 수 있도록 돕고 있다. 오픈 소스 AI는 다른 독점 AI 모델의 한계와 비용 제약 없이 사람들이 앞서 나갈 수 있도록 도와준다”고 밝혔다.

세 번째 사례로는 미국 샌디에이고에 본사를 둔 생명공학 소프트웨어 회사인 나노미(Nanome)를 소개했다. 나노미는 과학자들이 텍스트와 3D 시각적 형태로 분자 구조를 볼 수 있도록 돕는 ‘마라(MARA;Molecular Analysis and Reasoning Assistant)’라는 AI 에이전트에 라마를 활용했다. 과학자들은 마라에 자신이 관찰하는 구조에 대한 질문을 할 수 있고, 마라는 새로운 약물과 치료법을 개발하는 데 사용할 수 있는 답변과 통찰력을 제공한다.

나오미의 CEO인 스티브 맥클로스키(Steve McCloskey)는 “나노미는 성능과 적응성, 그리고 대학, 연구자, 과학자들이 협업할 수 있다는 점 때문에 라마를 사용한다. 신약을 개발하는 데는 수년이 걸리고 수십억 달러의 비용이 들 수 있다. 우리 스타트업은 이를 바꾸고자 한다”고 라마 선택 이유를 밝혔다.

네 번째는 자우론 랩스(Zauron Labs)의 ‘가디언 AI(Guardian AI)’로 방사선 영상 검사와 보고서를 이중으로 확인하여 오류를 찾아주는 데 활용하고 있다. 방사선 검사에서 잘못된 결과 판독으로 인한 치료 지연이나 건강 악화 등을 방지할 수 있도록 도움을 주는 것이다.

자우론 랩스의 공동 설립자이자 방사선 전문의인 클락 박사(Dr. Clark)는 “사람들은 연간 약 30억 건의 의료 영상 검사에서 3~5%의 오류가 발생한다는 사실을 모른다. 메타의 라마를 통해 우리는 대학과 협력하고 오류를 두 번 확인하는 가디언 AI를 구축할 수 있었다. 이는 방사선과 의사를 위한 맞춤법 검사기와 같다”고 전했다.

다섯 번째로 멘델(Mendel)은 라마를 포함한 오픈 소스 AI를 기반으로 ‘하이퍼큐브(Hypercube)’라는 AI 플랫폼을 개발했다. 이는 채팅 형식의 AI 도구를 활용해 환자 데이터에서 인사이트를 도출할 수 있도록 지원하는 시스템으로, 임상시험에서 환자를 매칭하는 시간을 획기적으로 단축할 수 있다.

멘델의 설립자이자 최고 과학 책임자인 와엘 살룸(Dr. Wael Salloum) 박사는 “현재 임상시험의 약 80%가 등록 목표를 달성하지 못해 새로운 치료법 발견이 늦어지고 있는 만큼, 하이퍼큐브는 임상시험 매칭과 환자 코호팅에 중요한 역할을 한다. 연구에 따르면 임상시험에 환자를 매칭하는 데 수백 일이 걸리는 것으로 나타났지만 하이퍼큐브를 사용하면 하루 만에 가능하다”고 밝혔다.

AI 이니셔티브에서 속도만큼이나 중요한 것이 방향과 선택이다. 일단 한번 발을 들여놓으면 중간에 길을 바꾸거나 다시 돌아오기가 쉽지 않다. 클라우드를 도입할 때 장기적인 관점에서 다양한 변수와 상수를 고려하지 않았다면 비용 폭탄이라는 지뢰를 밟는 순간을 머지 않아 만날 수도 있다.

마찬가지로 AI가 구현하는 환상적인 결과에만 매몰되어 있다 보면 그것이 가져다줄 청구서를 잊기 십상이다. 따라서 비용과 효율이라는 깃발을 수시로 살피고 따지면서, 비즈니스 목표와 목적에 맞게 오픈 소스와 상용 AI 모델과 도구를 분석하는 꼼꼼한 접근 방법이 요구된다.

무조건 무료라서 좋거나 나쁘다는 식의 이분법적 접근은 곤란하다. 무료이지만 오픈 소스가 가진 장점이 있고, 무료임에도 불구하고 오픈 소스가 가진 단점이 있다. 반대로 유료 모델 역시 같은 관점에서 장단점을 가지고 있다. 중요한 것은 다양한 정보와 사례를 통해 가장 최적의 길을 선택하는 것이다. 어쩌면 이것부터 AI에게 도움을 청하는 것으로 첫발을 내디뎌 보는 것도 나쁘지 않을듯하다.

⧉ Syndicated to WWW.CIOKOREA.COM