sLLM이란?

소규모 언어모델이 뜨고 있다. 'sLLM'이라는 용어까지 생겼다.
머신러닝 매개변수(parameter)를 줄여 비용을 아끼고 미세조정(fine-tuning)으로 정확도를 높이는
'맞춤형 LLM'이라는 의미다.

매개변수의 경우 오픈AI의 'GPT-3.0'와 'GPT-3.5(챗GPT)'는 1750억개이며
구글의 'PaLM'은 5400억개에 달하지만, sLLM은 60억~70억개에 불과하다는 내용이다.

최근 등장한 데이터브릭스의 '돌리'는 학습에 3시간이 들었으며, 비용은 고작 30달러에 불과했다.

"챗GPT는 세상 모든 정보로 훈련했을지 모르지만,
모든 회사가 세상의 모든 정보를 필요로 하지는 않는다.
반면 챗GPT는 회사가 비공개로 보유한 데이터를 학습한 적이 없다"면서
sLLM은 특정 분야에 한정하지만 깊이 있는 데이터를 학습할 수 있다는 점을 강조했다.

출처 : AI타임스([<https://www.aitimes.com/news/articleView.html?idxno=150299>](<https://www.aitimes.com/news/articleView.html?idxno=150299>))

왜 sLLM을 사용하는가?

• 기업의 입장에서 gpt는 양날의 검인 상태 - 성능과 보안이슈
• 그러면 ‘안전한 gpt’를 자체적으로 구비하면 좋지 않을까?
• 비용도 크지 않다 - 약 1000달러 내외 230411기준

그러면 B2B 영업으로 생각할 때, 지금 자율 프로젝트는 우리가 성장하기 위한 연습의 단계이다.

• 이를 위해 우리는 사내 sLLM을 제작하는 연습을 하는 것이 좋겠다.

사내 sLLM은 어떤 기능이 있으면 좋을까?

• 번역, 요약, 대화형 AI, 보안
• 대화형 AI는 사내 규정 백과사전 등
  • 정확한 내용이 나오지 않는다면 책임은 어떻게 질 것인가?
• 사내 업무 처리 프로세스 정리집?
• 소스코드 작성기능 - 언어 제한

하지만 사내 규정 / 업무 처리 프로세스를 직접 만들기에는 많은 시간이 소요된다

• 프로젝트에서는 사내 규정 대신 법률을 이용해보자
• 법률 관련 대화형 AI