‘AI를 위한·AI로 강화된’ 레드햇, 오픈 하이브리드 클라우드 전략 [테크리포트]

인공지능을 비롯한 새로운 기술과 용어들이 계속해서 생겨난다. 빠르게 변화하는 기술의 흐름 속에서 놓치지 말아야 할 키워드는 무엇일까. 테크리포트는 IT기업들이 연례 콘퍼런스, 세미나 등을 통해 제시하는 기술 요소를 자세히 분석하고 현재와 미래의 IT기술 트렌드와 방향성을 짚어본다. [편집자 주]

이제 본격적인 ‘인공지능(AI) 시대’가 열릴 것으로 기대를 모으지만, 이에 대한 정의와 기대는 모두 비슷하면서도 다르다. IT는 물론 인류 문명 수준에 근본적인 변화를 줄 것으로 기대되는 AI지만, 우리는 이 AI의 가능성을 현재의 위치에서 먼저 생각할 수밖에 없다. 즉, 각자가 생각하는 AI 시대의 가능성은 ‘눈 가리고 코끼리 만지는’ 모습이 될 수밖에 없다.

본격적인 AI 시대로의 진입에 앞서, 우리가 생각해야 할 것은 AI 시대에 ‘무엇을’, ‘어떻게’ 할 지가 아닐까 싶다. 이 중 ‘무엇을’ 할 지에 대한 관점에서는 어떤 AI 기술을 어떤 곳에 사용해 경쟁력을 높일 지에 대해 고민해야 할 것이다. ‘어떻게’ 할 지의 관점에서는 AI 기술을 사용하기 위한 환경을 어떻게 만들고 쓸 지에 대한 고민이 필요하다. 이 두 관점 사이의 균형이 제대로 잡히지 않으면, AI 시대는 지속가능하기 힘들어질 수도 있다.

레드햇은 이 AI 시대에 AI 기술을 ‘어떻게’ 사용할지를 제공하는 위치에 있지만, 현재 위치에서 AI를 사용해 제품과 고객의 경쟁력 또한 높여야 하는 과제도 안고 있다. 이러한 관점에서의 고민은 지난 해에 이어 ‘레드햇 서밋 2024’의 기조연설에서도 확인할 수 있다. 이번 서밋은 지난 해보다 좀 더 명확한 변화를 제시한 점이 인상적이다. 이제 안개 속을 걷는 듯한 AI 시대로의 여정에서 레드햇은 앞으로 나아갈 길을 어느 정도 파악한 듯 싶다.

레드햇이 AI 시대에 선보인 핵심 전략 중 하나는 AI를 위한 ‘특화’ 인프라 구성이다. 특히 ‘오픈시프트 AI(OpenShift AI)’는 기존에 클라우드 네이티브, 하이브리드 클라우드 환경을 통합 관리하는 ‘오픈시프트’에 기반하지만 ‘AI 모델’ 서빙에 특화됐다. 이는 상위 계층으로는 예측형 및 생성형 AI를 모두 지원하는 향상된 모델 서버를 갖추고, 하위 계층으로는 AI 연산에 사용되는 다양한 유형의 하드웨어에 대한 폭넓은 지원이 포함된다.

‘오픈시프트 AI’는 특히 엣지 등으로 확장된 하이브리드 환경에서 AI 모델을 사용하고자 할 때 높은 가치를 기대할 수 있다. 더 빠르고 효율적인 데이터 처리와 모델 학습을 위한 워크로드 분산 배치와 적절한 자원 할당, 상시 연결되지 않은 엣지에 이르기까지 원격 AI 배포와 일관된 운영 환경을 제공하는 점은 지금까지 다양한 위치에 각자 AI를 배포하던 것에 비해 큰 생산성 향상을 제공한다. 앞으로 AI 활용 규모가 커질 수록, 이런 접근법은 더 중요해질 것이다.

‘오픈시프트 AI’가 상위 계층에서 다양한 AI 모델과 애플리케이션을 모두 ‘컨테이너’로 통합한다면, 하위 계층에서는 다양한 하드웨어 생태계를 통합한다. 여기에는 엔비디아 뿐만 아니라 인텔과 AMD의 가속기 등까지 모두 포함된다. 특히 인텔의 경우 기조연설에 팻 겔싱어 CEO가 등장해 데이터센터용 가속기 뿐만 아니라 PC용 ‘코어 울트라’ CPU나 ‘아크’ GPU 지원까지 발표했는데, 이는 산업용 엣지 디바이스에서의 활용까지 염두에 둔 지원이다.

한편, 이 ‘오픈시프트 AI’는 ‘AI’ 영역을 위한 분명한 목적성을 가진 제품이기도 하다. 맷 힉스 CEO는 이에 대해 “RHEL AI나 오픈시프트 AI는 AI 환경 지원이라는 특정 목적에 집중한다. 반면 기존의 RHEL과 오픈시프트는 좀 더 광범위한 애플리케이션을 다루는 환경을 제공한다”고 소개하며 “궁극적으로 AI는 목적을 위한 도구다. 어느 한 쪽이 기존의 것을 대체하는 것보다는 기존 기술과 공존하는 위치가 될 것으로 본다”고 밝혔다.

‘AI 시대’가 주목받고 있지만, 이 AI 시대를 뒷받침하는 것은 ‘클라우드’고, 클라우드 시대의 워크로드 배포 방법 표준은 이제 ‘컨테이너’다. 컨테이너는 가상화 기술과 비교해 호스트 위에서 애플리케이션 간 격리를 구현한다는 결과는 같지만, 커널 공유 여부 등의 기술적 특징에서 다르다. 하지만 레드햇은 이 컨테이너를 통해 가상 머신을 배포해, 컨테이너 관리 체계에 가상 머신 관리를 통합할 수 있는 방법도 선보인 바 있다.

이런 관점에서 ‘레드햇 엔터프라이즈 리눅스 AI(RHEL AI: Red Hat Enterprise Linux AI)’는 이름만 듣고 ‘운영체제’라고 섣불리 판단할 수는 없을 존재다. 일단 이 ‘RHEL AI’는 ‘오픈시프트 AI’에 포함돼 있고, 다양한 하드웨어 가속기와 프레임워크가 함께 구성돼 부팅 가능한 RHEL 이미지로 제공될 수 있다. 즉, 예전처럼 물리 서버나 가상화 환경에 설치하는 전통적인 운영체제의 모습은 아니다. 

레드햇은 이 ‘RHEL AI’에 대해 “생성형 AI 모델을 보다 원활하게 개발, 테스트, 배포할 수 있도록 지원하는 파운데이션 모델 플랫폼”이라고 표현한다. 이에 배포 모델은 클라우드 네이티브 ‘이미지’를 우선하고, 구성 요소에는 IBM의 ‘그래니트(Granite) LLM’과 ‘인스트럭트랩(InstructLab)’ 모델 정렬 도구, 인스트럭트랩 프로젝트의 모델 개발 접근 방식을 결합했다. 

이 ‘오픈시프트 AI’와 ‘RHEL AI’, ‘그래니트 LLM’의 조합을 완성하는 것은 레드햇의 ‘지원’과 ‘보증’이다. 특히 RHEL AI에 포함된 그래니트 모델은 레드햇에 의해 전적으로 지원되고 면책된다는 점이 명시됐다. 이런 지원의 신뢰성 측면은 아직 AI로의 움직임을 고민하는 보수적 조직들에 AI 시대로의 움직임을 만드는 중요한 계기가 될 수도 있을 것으로 보인다.

특히, 지금까지의 AI 환경 구축 중 상당 수가 AI 생애 주기 전반에 대한 책임을 고객이 어느 정도는 직접 져야 했지만, 레드햇은 이 부분에 검증된 모델과 지원을 통해 기업에 ‘확신’을 제공하겠다는 점이 눈에 띈다. 기존 레드햇 기반 환경을 사용하던 고객들이 서비스 구성이나 지원 체계의 복잡도를 높이지 않으면서도 AI를 도입할 수 있을 것으로 기대된다.

한편, ‘RHEL AI’나 ‘RHEL용 이미지 모드’는 기존의 ‘운영체제’로의 RHEL에 대한 접근법에 새로운 옵션을 제공하는 의미도 있다. 레드햇은 전통적인 ‘가상 머신’을 컨테이너 운영 환경에 통합하는 ‘오픈시프트 가상화’를 이미 선보였고, 올해는 운영체제를 컨테이너화해 선보여 새로운 접근법을 제공했다. 물론 이 모든 옵션은 각자의 특징이 분명해, 다양한 상황에서 선택적으로 활용될 수 있을 것으로 보인다. 또한 모든 옵션이 긴밀히 연결돼, 더 견고한 AI 시대를 만드는 데 활용될 것으로 기대된다.

AI 시대 고민의 핵심은 AI로 ‘무엇을’ 할 지에 대한 것이다. AI 기술의 가능성은 무궁무진하지만 결국 역할은 ‘도구’고, 어떤 작업에 사용할지는 결국 사용자가 선택한다. 그리고 최근의 생성형 AI에 이르기까지, AI는 지금까지 없던 완전히 새로운 영역을 열 수도 있지만, 우리가 기존에 하고 있던 작업들을 새로운 방법으로 수행하는 데도 효과적으로 활용될 수 있다.

레드햇이 선보인 ‘레드햇 라이트스피드(Red Hat Lightspeed)’는 이런 AI의 활용 측면에서 눈여겨볼 만한 좋은 사례다. 이 ‘라이트스피드’는 기존 레드햇의 툴에 IBM의 생성형AI ‘왓슨x(watsonx)’를 결합하고, 코드와 스크립트 생성 등 특정 사용 사례에 특화했다. 처음 도입된 제품은 자동화 플랫폼 ‘앤서블(Ansible)’인데, 사용자가 이 AI에 필요한 부분을 ‘자연어’로 말하면 AI가 사용자의 목적을 수행할 수 있는 스크립트를 생성, 제시한다.

레드햇은 이 ‘라이트스피드’를 이제 ‘오픈시프트(OpenShift)’와 ‘레드햇 엔터프라이즈 리눅스(RHEL)’까지 확장 적용한다. 이는 인프라 관리자에 있어 복잡한 작업을 위한 스크립트를 직접 짤 필요 없이 AI에 맡길 수 있어, 사용자와 시스템간의 인터페이스 방법을 크게 바꾸는 계기가 될 것으로도 기대된다. 

이는 ‘커맨드라인’ 인터페이스가 ‘그래픽’을 거쳐 ‘프롬프트’로 넘어가는 느낌을 주기까지 한다. 물론 이것이 완전한 ‘자율 운영’을 의미하는 것은 아니며, AI가 생성한 결과물을 사용할지 결정하는 것은 결국 사용자다.

이 ‘라이트스피드’는 거대언어모델(LLM)과 생성형AI가 기존의 작업을 강화하는 데 있어 어떻게 활용될 수 있을지에 대한 좋은 사례기도 하다. 이 ‘라이트스피드’는 본질적으로 사용자를 ‘지원’하는 역할이고, 사용자와 시스템간 상호 작용하는 방법을 크게 바꾼다. LLM과 생성형 AI는 기존의 직업과 연결할 때 어디에 위치시키고 어떤 역할을 맡길지에 따라 그 가치가 크게 바뀌는 만큼, 조직에서 AI 도입시에는 처음부터 앞으로의 사용 ‘계획’에 대한 분명한 방향성을 잡아 두는 것이 중요할 것이다.

한편, 얼마 전까지는 AI 시대의 생태계에서 레드햇이 AI 시대를 ‘지원하는’ 위치였지만, 이제는 상황이 달라졌다. 오픈소스 커뮤니티 생태계를 표방하고 있지만 ‘인스트럭트랩’ 출범과 ‘그래니트’ 모델을 선보이면서, 레드햇 또한 이제 AI 생태계의 핵심 기업 중 하나가 됐다. 레드햇은 이 ‘인스트럭트랩’과 ‘그래니트’ 모델을 ‘오픈시프트 AI’에 통합된 ‘RHEL AI’에 함께 제공함으로써, 어찌 보면 ‘모델’과 ‘플랫폼’의 수직 계열화를 구현한 사례를 선보인 모습이다.

‘인스트럭트랩’은 커뮤니티 주도의 ‘개방형 AI’ 구현을 위한 좀 더 ‘오픈소스’ 다운 접근법을 선보인다. 지금까지의 오픈소스 모델은 코드 단위에서의 공개 정도로 접근했다면, ‘인스트럭트랩’은 모델 구축을 위한 ‘훈련’ 단계에서부터 사용자의 결과를 기여할 수 있게 만든 것이 특징이다. 사용자는 훈련 결과를 모델에 기여할 수 있고, 이 결과들이 모여 좀 더 정확한 모델을 구현할 수 있게 하는 모습이다. 어찌 보면, 슈퍼컴퓨터 생태계 등에서 논의되던 ‘연합 학습(Federated Learning)’이 커뮤니티 단위에서 구현된 모습처럼 보이기도 한다.

IBM리서치의 LAB(Large-scale Alignment for chatbot, 챗봇을 위한 대규모 정렬)방식은 분류법(taxonomy) 기반 합성 데이터 생성과 새로운 다단계 튜닝 프레임워크를 사용해, 비용이 많이 드는 사람의 주석이나 독점 모델에 대한 의존도를 줄이고, 보다 개방적이고 접근하기 쉬운 AI 모델 개발을 구현한다. 이런 접근법과 커뮤니티의 조합으로 만들어진 모델은 더 많은 사용자들의 데이터를 반영해 성능을 높이면서도 데이터의 권리 측면에서는 더 안전한 모델을 구현할 수 있을 것으로 기대된다.

인스트럭트랩 출범과 함께 공개된 ‘그래니트’ 모델은 영어 모델 및 코드 모델 제품군으로, 제품군별 다양한 크기의 모델이 제공된다. 그리고 레드햇은 이 ‘그래니트’ 모델이 다른 모델과 비교해 코드 생성 등에서 더 작은 크기에서도 더 뛰어난 성능을 제공할 수 있다는 결과를 제시했다. 더 작으면서도 성능이 좋은 모델은 더욱 다양한 환경에서 사용될 수 있고, 현재 AI 생태계 전반에서 주목받는 ‘효율’ 측면에서도 더 유리한 특징을 제공할 것이다. 사용자의 기여가 AI 모델에 직접 영향을 끼치는 데서, 이 또한 ‘오픈소스의 혁신’으로 볼 수도 있겠다.

이 ‘그래니트’ 모델은 레드햇 기반 환경에서 사용할 때 다양한 장점을 기대할 수 있다. 일단 ‘RHEL AI’에 통합된 만큼 설치와 활용이 쉽고, 레드햇은 이 모델에 대한 전적인 지원과 면책 등 모델에 대한 ‘보증’을 제공한다는 점이 크게 느껴진다. 이에, AI 기술의 가능성에 주목하지만 위험성을 우려하고 있다면, 그래니트 모델의 도입은 대단히 매력적으로 느껴질 것이다. 

‘인스트럭트랩’ 커뮤니티 모델은 앞으로의 AI 모델 개발에 있어 새로운 방향성을 제시할 사례로 주목할 만 하다. 그리고 여기서 레드햇의 기여에 대한 진심은 의심할 여지가 없지만, IBM의 이름은 커뮤니티에서 약간의 머뭇거림을 만들 요인이 될 수도 있지 않을까 싶다. 물론 오픈소스 기반으로 출발한 만큼, 앞으로의 가능성은 충분하다고 보고, 앞으로 커뮤니티의 방향성에 대한 적극적인 기여로 좋은 결과를 맺을 수 있기를 기대한다.

권용만 기자 yongman.kwon@chosunbiz.com