[팩플] MS “소형 AI ‘파이-3’, 비용 10분의 1로 줄여”…'가성비 AI' 격전
마이크로소프트(MS)가 소형언어모델(SLM) ‘파이-3 미니’(Phi-3 Mini)를 출시한다고 23일(현지시간) 밝혔다. 생성 AI 모델 키우기 경쟁에 주력했던 빅테크들이 가성비(가격 대비 성능의 비율)를 높인 SLM과 같은 경량화 모델로도 눈을 돌리고 있다.
무슨 일이야?
파이-3 미니는 MS가 출시한 SLM 중 가장 경량화된 모델이다. 매개변수(파라미터)는 38억개. 향후 출시될 파이-3 스몰(Small)과 파이-3 미디엄(Medium)의 매개 변수는 각각 70억개, 140억개다. 파이-3 미니가 상대적으로 가볍고, 비용도 훨씬 적게 들 수밖에 없다. MS는 “자원이 제한적인 환경이거나 빠른 응답이 중요한 상황, 해야 할 작업이 간단한 경우라면 특히 파이-3와 같은 SLM이 적합하다”고 소개했다. 목적에 맞게만 활용하면 저비용으로도 필요한 만큼 충분한 AI 성능을 발휘할 수 있다는 뜻이다. 세바스티엔 부벡 MS 생성형 AI 연구담당 부사장은 “비슷한 기능을 가진 다른 모델들과 비교하면 (비용이) 10분의 1 수준”이라고 설명했다. 또 MS 측은 “파이-3가 지난해 12월 출시한 파이-2보다 성능이 더 뛰어나 10배 큰 모델 수준의 응답을 제공할 수 있으며, 코딩과 추론에도 더 능숙하다”고 밝혔다.
어디에 쓰는데?
②‘온디바이스 AI’에도 필수: 손에 들고 다니는 스마트폰, 가방에 넣어다니는 노트북 등 네트워크 연결 없이 기기 자체에서 구동되는 AI(온디바이스 AI) 활성화에는 초고성능을 뽐내는 거대언어모델(LLM)이 아닌, SLM이 더 큰 역할을 할 수 있다. 삼성전자가 지난 1월 출시한 ‘온디바이스 AI’ 폰 갤럭시S24에도 자체 AI 모델 가우스의 일부 기능을 경량화한 모델이 적용됐다. MS에 따르면 이날 출시된 파이-3 미니는 인터넷을 통해 클라우드에 접속할 필요도, 특별한 반도체나 그래픽처리장치(GPU) 없이도 스마트폰 등 개인 기기에서 사용할 수 있다. 인터넷 접속 환경이 좋지 않은 국가나 지역에서도 AI 활용이 가능하다는 뜻이라, 시장을 더 넓힐 수도 있다.
앞으로는?
윤정민(yunjm@joongang.co.kr)
with the Korea JoongAng Daily
To write comments, please log in to one of the accounts.
Standards Board Policy (0/250자)