1. 내용 GPT-3가 공개된 지 11개월이 지났습니다. 1,750억 개의 매개변수를 갖고 있던 GPT-3는 역사사 가장 뛰어난 언어 인공지능 모델로 평가받으며, 그만큼의 언어 생성 성능을 보여줬습니다. 그러나 대부분 영어에서 우수한 성능을 보인다는 점, 공학·자연과학 분야에서는 비교적 약한 모습을 보인다는 점 등에서 아직은 한계를 보여주기도 했습니다. 여기에서 지난 5월 26일, 중국 화웨이에서 GPT-3를 넘는 최대 2,000억 개의 매개변수를 포함하는 750GB로 대규모 자연어 처리(NLP) 모델인 '판구 알파(PanGu Alpha)'를 개발 및 공개했습니다. 화웨이 연구팀은 이 초거대 언어 모델 설계에서 트랜스포머 기반 자기 회귀 언어(Autoregressive Language) 모델을 기본 아키..
