데이터드리븐, Edu-BERT 활용한 문장생성 AI 모델 개발

북마크 완료!

마이페이지의 ‘북마크한 기사’에서 읽으실 수 있습니다.

북마크한 기사 보러가기 close
입력 2022.02.28 09:50
데이터드리븐은 교육 분야 자연어처리 모델 Edu-BERT와 GPT2를 활용한 인공지능 문장생성 모델의 개발을 완료했다고 28일 밝혔다.

Edu-BERT 활용한 문장생성 AI 모델. / 데이터드리븐
Edu-BERT는 2018년 11월 구글이 발표한 언어 모델인 BERT(Bidirectional Encoder Representations from Transformers)에서 교육 도메인 특성을 반영한 모델이다.

기존 한국어 BERT 모델을 교육 분야에 활용하기 위해서는 추가 데이터를 수집하고 학습을 진행해야 했지만, 데이터드리븐의 Edu-BERT은 이런 문제를 극복했다고 전했다.

데이터드리븐은 2019년부터 2021년까지 교육 분야 사업을 진행하며 수집한 교육 활동 기록 데이터를 형태소 단위로 분리하고, Attention & Doc2Vec Network를 통해 교육적인 의미가 강한 단어의 가중치를 조정해 Edu-BERT를 구성했다. 이렇게 구성된 Edu-BERT 모델을 활용해 약 14만 건의 교육 활동 기록 데이터의 임베딩을 수행, 한국지능정보사회진흥원이 주관한 2021년 인공지능 학습용 데이터 구축 사업의 ‘텍스트 기반 학생 청소년 핵심역량분석 모델’의 개발에 기여하기도 했다.

Edu-BERT가 교육 도메인 특성을 반영한 언어재현표현 모델이라면, 문장생성 모델은 Edu-BERT와 GPT2을 결합시켜 개발한 교육 분야 인공지능 모델이다. 인공지능 문장생성 모델은 교수자가 학습자를 관찰하는 다양한 기준의 지표에서 상세한 서술을 생성하는 기능을 수행하며, 교수자의 관점과 판단의 방향성을 유지한 채로 문장을 생성, 교수자의 수업 기록 업무에 대한 부담을 경감할 수 있다. 데이터드리븐은 Edu-BERT 모델과 문장생성 모델을 활용한 ‘AI 기반 청소년역량진단 온라인 관리 플랫폼’ 서비스를 성남시청소년재단 산하기관에 구축 완료하고 사용을 준비하고 있다.

김기범 데이터드리븐 부사장은 "Edu-BERT와 인공지능 문장생성 모델을 활용한 서비스의 확장을 통해, 더 많은 데이터를 수집하고 인공지능 성능을 고도화 할 수 있는 선순환 구조를 구축 중이다"라며 "2022년 중 대규모 교육 데이터 추가 수집을 진행해 더 많은 영역에 적용할 수 있는 인공지능 모델과 서비스를 개발할 계획이다"라고 말했다.

하순명 기자 kidsfocal@chosunbiz.com


0
주요 뉴스
지금 주목할 뉴스