IBM이 자사 거대언어모델(LLM) 제품군의 차세대 버전인 그래니트(Granite) 3.2를 출시했다고 27일 밝혔다. 그래니트는 기업용 인공지능(AI) 솔루션이다.
그래니트 3.2 모델은 허깅페이스에서 허용되는 아파치 2.0 라이선스에 따라 사용할 수 있다. 일부 모델들은 IBM 왓슨x.ai(IBM watsonx.ai), 올라마(Ollama), 리플리케이트(Replicate), LM 스튜디오에서 이날 즉시 사용 가능하다. 레드햇 엔터프라이즈 리눅스(RHEL) AI 1.5에서도 제공될 예정이다.
그래니트 3.2는 문서 해석 작업을 위한 새로운 비전 언어 모델(VLM)이다. 필수 엔터프라이즈 벤치마크인 DocVQA, ChartQA, AI2D 및 OCRBench에서 기존 대형 모델인 라마 3.2 11B 및 픽스트랄 12B와 동등하거나 그 이상의 성능을 입증했다는 게 IBM 측 설명이다.
이용자들은 프로그래밍 방식으로 ‘연쇄적 사고(Chain of thought)’ 기능을 활성화하거나 비활성화해 효율성을 최적화할 수 있다. 간단한 작업의 경우 이 모델은 추론 없이 작동하므로 불필요한 연산 부하를 줄일 수 있다.
8B 모델은 새로운 추론 확장(inference scaling) 방법으로 AIME2024 및 MATH500과 같은 수학 추론 벤치마크에서 클로드 3.5-소넷 또는 GPT-4o와 같은 대규모 모델의 성능에 필적하도록 보정할 수 있다.
IBM은 그래니트 3.2 인스트럭트, 비전 및 가드레일 모델과 함께 최대 2년 후의 미래까지 장기 예측할 수 있는 기능을 갖춘 차세대 시계열 모델인 타이니타임믹서(TTM, TinyTimeMixers) 모델(1000만 개 미만의 매개변수)도 출시한다. IBM은 해당 모델이 금융 및 경제 동향, 공급망 수요 예측, 유통 업계의 계절별 재고 계획 등 장기적인 트렌드 분석에 강력한 도구가 될 것으로 기대 중이다.
스리람 라가반(Sriram Raghavan) IBM AI 연구 담당 부사장은 “다음 AI 시대는 기업이 과도한 컴퓨팅 비용 없이도 성과를 달성할 수 있는 효율성, 통합 가능성, 실용성이 화두가 될 것”이라며 “개방형 솔루션에 중점을 둔 IBM의 최신 그래니트 모델은 기업의 AI 접근성, 비용 효율성, AI 자체의 가치를 높이는데 있어 도움을 줬다고 생각한다”고 말했다.
김경아 기자
kimka@chosunbiz.com