ⓒAI타임스 박찬기자

미스트랄 AI가 노트북에서 실행할 수 있는 새로운 오픈 소스 소형언어모델(sLM)을 출시했다. 3배 큰 모델과 비슷한 성능을 유지하면서도 컴퓨팅 비용을 대폭 절감할 수 있다고 주장했다.

미스트랄은 30일(현지시간) 240억 매개변수의 sLM ‘미스트랄 스몰 3(Mistral Small 3)’를 오픈 소스로 출시했다고 발했다.

미스트랄 스몰 3는 240억개의 매개변수를 포함하고 있지만, 양자화(Quantization) 기능 덕분에 일부 맥북에서도 실행할 수 있을 정도로 크기가 작아진다. 양자화는 모델의 하드웨어 사용량을 줄이면서 일부 출력 품질을 희생하는 방식이다.

(후략)

[원본기사 출처 :

https://www.aitimes.com/news/articleView.html?idxno=167575

]