
์๋ฐ์์๋ ํ์ดํ๋ผ์ธ
LLM์์๋ ์ฒด์ธ
์ข์์! ๋ง์ํ์ ์๋ฐ(Java), ์๋ฐ์คํฌ๋ฆฝํธ(JavaScript), ์คํ๋ง(Spring), Node.js๋ ๋ชจ๋ ํ๋ก๊ทธ๋๋ฐ/์น ๊ฐ๋ฐ์์ ์์ฃผ ๋์ค๋ ์ฉ์ด์ง๋ง, ์๋ก ์ญํ ๊ณผ ์ฐ์์ด ๋ค๋ฆ ๋๋ค. ํ๋์ฉ ์ฝ๊ฒ ์ ๋ฆฌํด ๋๋ฆด๊ฒ์.
1๏ธโฃ ์๋ฐ(Java)
- ์ข ๋ฅ: ํ๋ก๊ทธ๋๋ฐ ์ธ์ด
- ํน์ง:
- ๊ฐ์ฒด์งํฅ ํ๋ก๊ทธ๋๋ฐ(OOP) ์ง์
- ํ ๋ฒ ์์ฑํ๋ฉด ์ฌ๋ฌ ํ๊ฒฝ์์ ์คํ ๊ฐ๋ฅ (“Write Once, Run Anywhere”)
- ๊ฐ๋ ฅํ ์์ ์ฑ๊ณผ ํ์ฅ์ฑ์ผ๋ก ๊ธฐ์ ์ฉ ๋ฐฑ์๋ ๊ฐ๋ฐ์ ๋ง์ด ์ฌ์ฉ
- ์ฌ์ฉ ์ฌ๋ก: ์ํ ์์คํ , ์ ์์๊ฑฐ๋ ์๋ฒ, ์๋๋ก์ด๋ ์ฑ ๋ฐฑ์๋ ๋ฑ
2๏ธโฃ ์๋ฐ์คํฌ๋ฆฝํธ(JavaScript)
- ์ข ๋ฅ: ํ๋ก๊ทธ๋๋ฐ ์ธ์ด
- ํน์ง:
- ์น ๋ธ๋ผ์ฐ์ ์์ ์คํ๋๋ ํ๋ก ํธ์๋(ํด๋ผ์ด์ธํธ)์ฉ ์ธ์ด
- ๋์ ์ธ ์น ํ์ด์ง ๊ตฌํ ๊ฐ๋ฅ (๋ฒํผ ํด๋ฆญ, ํ๋ฉด ์ ๋ฐ์ดํธ ๋ฑ)
- ์ต๊ทผ์๋ Node.js ๋๋ถ์ ์๋ฒ ๊ฐ๋ฐ๋ ๊ฐ๋ฅ
- ์ฌ์ฉ ์ฌ๋ก: ์น์ฌ์ดํธ UI, SPA(Single Page Application), ๋ธ๋ผ์ฐ์ ๊ฒ์, ์น ์ ๋๋ฉ์ด์
๐ก ์ฃผ์: ์๋ฐ์ ์ด๋ฆ์ด ๋น์ทํ์ง๋ง ์์ ํ ๋ค๋ฅธ ์ธ์ด์ ๋๋ค.
3๏ธโฃ ์คํ๋ง(Spring)
- ์ข ๋ฅ: ํ๋ ์์ํฌ(Framework)
- ํน์ง:
- ์๋ฐ ๊ธฐ๋ฐ์ ์น/๋ฐฑ์๋ ๊ฐ๋ฐ ํ๋ ์์ํฌ
- ๊ฐ๋ฐ์๊ฐ ๋ฐ๋ณต์ ์ผ๋ก ์์ฑํด์ผ ํ๋ ์ฝ๋(์ค์ , ๋ณด์, DB ์ฐ๋ ๋ฑ)๋ฅผ ์ค์ฌ์ค
- ์์ ์ ์ด๊ณ ํ์ฅ์ฑ์ด ์ข์ ๊ธฐ์ ์ฉ ์น ์๋น์ค์ ๋ง์ด ์ฌ์ฉ
- ์ฃผ์ ๊ตฌ์ฑ:
- Spring Boot: ๋น ๋ฅธ ์น ์๋น์ค ๊ตฌ์ถ ์ง์
- Spring Security: ์ธ์ฆ/์ธ๊ฐ ๊ด๋ฆฌ
- Spring Data: DB ์ฐ๋ ํธ๋ฆฌ
๐ก ์ฝ๊ฒ ๋งํ๋ฉด: ์๋ฐ๋ก ์น ์๋ฒ๋ฅผ ๋ง๋ค ๋, ํธ๋ฆฌํ๊ฒ ํด์ฃผ๋ ๋๊ตฌ ๋ชจ์
4๏ธโฃ Node.js
- ์ข ๋ฅ: ๋ฐํ์ ํ๊ฒฝ(Runtime Environment)
- ํน์ง:
- ์๋ฐ์คํฌ๋ฆฝํธ๋ฅผ ๋ธ๋ผ์ฐ์ ๊ฐ ์๋ ์๋ฒ์์๋ ์คํ ๊ฐ๋ฅํ๊ฒ ํด์ฃผ๋ ํ๊ฒฝ
- ๋น๋๊ธฐ ์ฒ๋ฆฌ์ ์ด๋ฒคํธ ๊ธฐ๋ฐ ๊ตฌ์กฐ๋ก ์ค์๊ฐ ์๋น์ค์ ๊ฐํจ
- npm(Node Package Manager)์ ํตํด ๋ค์ํ ๋ผ์ด๋ธ๋ฌ๋ฆฌ ์ฌ์ฉ ๊ฐ๋ฅ
- ์ฌ์ฉ ์ฌ๋ก: ์ฑํ ์ฑ, ์ค์๊ฐ ๊ฒ์ ์๋ฒ, REST API ์๋ฒ
๐ก ์ฝ๊ฒ ๋งํ๋ฉด: ์๋ฐ์คํฌ๋ฆฝํธ๋ก ์๋ฒ ํ๋ก๊ทธ๋จ์ ๋๋ฆด ์ ์๊ฒ ํด์ฃผ๋ ํ๊ฒฝ
๐น ์ ๋ฆฌ ๋น๊ต
| ์ ํ | ํ๋ก๊ทธ๋๋ฐ ์ธ์ด | ํ๋ก๊ทธ๋๋ฐ ์ธ์ด | ํ๋ ์์ํฌ | ๋ฐํ์ ํ๊ฒฝ |
| ์คํ ํ๊ฒฝ | JVM | ๋ธ๋ผ์ฐ์ / Node.js | ์๋ฐ ์์์ ์คํ | ์๋ฒ(Node.js ํ๊ฒฝ) |
| ์ฉ๋ | ๋ฐฑ์๋, ์ฑ | ํ๋ก ํธ์๋, ์๋ฒ | ์๋ฐ ๊ธฐ๋ฐ ์น ๋ฐฑ์๋ | ์๋ฐ์คํฌ๋ฆฝํธ ๊ธฐ๋ฐ ์๋ฒ |
| ํน์ง | ์์ ์ , ๊ฐ์ฒด์งํฅ | ๋์ , ์ธํฐ๋ํฐ๋ธ | ๊ฐ๋ฐ ํธ์์ฑ, ํ์ฅ์ฑ | ์ค์๊ฐ ์ฒ๋ฆฌ, ์ด๋ฒคํธ ๊ธฐ๋ฐ |
๋ญ์ฒด์ธ(LangChain) ์ ๋ฌธ๋ถํฐ ์์ฉ๊น์ง - WikiDocs
-์ค๋ ๋ด์ฉ
์ปดํฌ๋ํธ = ์ธ์คํด์ค (๊ฐ์ฒด)
์ปจํ ์ด๋ = ๊ฐ์ฒด
1๏ธโฃ ๊ฐ์ฒด(Object)
- ์ ์: ํ๋ก๊ทธ๋๋ฐ์์ ์์ฑ๊ณผ ๋์์ ๊ฐ์ง๋ ์ค์ฒดํ ๊ฐ๋ฅํ ๊ฐ๋ .
- ์์: ์๋์ฐจ๋ผ๋ ๊ฐ๋ ์์ฒด๊ฐ ๊ฐ์ฒด.
2๏ธโฃ ์ธ์คํด์ค(Instance)
- ์ ์: ๊ฐ์ฒด๋ฅผ ์ค์ ๋ก ๋ฉ๋ชจ๋ฆฌ์ ์ฌ๋ ค์ ๊ตฌ์ฒดํํ ๊ฒ.
- ์ฆ, ๊ฐ์ฒด์ ์ค์ฒดํ๋ผ๊ณ ์๊ฐํ๋ฉด ๋จ.
- ์์: ์๋์ฐจ ๊ฐ์ฒด๋ฅผ ๊ธฐ๋ฐ์ผ๋ก ๋ง๋ ๋ด ์ฐจ, ์น๊ตฌ ์ฐจ ๊ฐ๊ฐ์ด ์ธ์คํด์ค.
๐ก ์ ๋ฆฌ: ๊ฐ์ฒด = ์ค๊ณ๋, ์ธ์คํด์ค = ์ค๊ณ๋๋ก ๋ง๋ ์ค์ ๋ฌผ๊ฑด
3๏ธโฃ ์ปดํฌ๋ํธ(Component)
- ์ ์: ์ฌ์ฌ์ฉ ๊ฐ๋ฅํ UI ์์๋ ํ๋ก๊ทธ๋จ ๋จ์.
- ๋ณดํต ํ๋์ ๊ธฐ๋ฅ ๋จ์๋ฅผ ๊ฐ์ง.
- ์์: ๋ฒํผ, ๋ฉ๋ด๋ฐ, ์นด๋ UI, ์ง๋ ์์ ฏ ๋ฑ
- React, Vue, Angular ๊ฐ์ ํ๋ก ํธ์๋ ํ๋ ์์ํฌ์์ ๋ง์ด ์ฌ์ฉ๋จ.
๐ก ํน์ง:
- ์์ฒด์ ์ผ๋ก ์ํ(state)์ ์์ฑ(props)์ ๊ฐ์ง ์ ์์.
- ๋ค๋ฅธ ์ปดํฌ๋ํธ ์์ ๋ค์ด๊ฐ ์๋ ์์ (์ค์ฒฉ ๊ฐ๋ฅ).
- ์ปดํฌ๋ํธ ์์ฒด๋ ๊ฐ์ฒด์ด๋ฏ๋ก ์ธ์คํด์ค๋ฅผ ๋ง๋ค ์ ์์.
4๏ธโฃ ์ปจํ ์ด๋(Container)
- ์ ์: ์ฌ๋ฌ ๊ฐ์ ์ปดํฌ๋ํธ๋ ๊ฐ์ฒด๋ฅผ ํฌํจํ๊ณ ๊ด๋ฆฌํ๋ ๋จ์.
- UI๋ ์ ํ๋ฆฌ์ผ์ด์ ๊ตฌ์กฐ์์ ์กฐ์ง/๊ด๋ฆฌ ์ญํ ์ ํจ.
- ์์:
- ์น ํ์ด์ง์์ ์ฌ๋ฌ ์นด๋ ์ปดํฌ๋ํธ๋ฅผ ๋ด๊ณ ์๋ ๊ทธ๋ฆฌ๋ ๋ ์ด์์
- Redux ๊ฐ์ ์ํ ๊ด๋ฆฌ์์ ์คํ ์ด(Store)
๐ก ์ ๋ฆฌ:
- ์ปจํ ์ด๋๋ ๋ด๋ถ์ ์ฌ๋ฌ ์ปดํฌ๋ํธ(๋๋ ๊ฐ์ฒด/์ธ์คํด์ค)๋ฅผ ๋ด๊ณ ์๋ ํฐ ๋จ์
invoke
batch
1. ๊ธฐ๋ณธ LLM ์ฒด์ธ์ ๊ตฌ์ฑ ์์
- ํ๋กฌํํธ(Prompt): ์ฌ์ฉ์ ๋๋ ์์คํ ์์ ์ ๊ณตํ๋ ์ ๋ ฅ์ผ๋ก, LLM์๊ฒ ํน์ ์์ ์ ์ํํ๋๋ก ์์ฒญํ๋ ์ง์๋ฌธ์ ๋๋ค. ํ๋กฌํํธ๋ ์ง๋ฌธ, ๋ช ๋ น, ๋ฌธ์ฅ ์์ ๋ถ๋ถ ๋ฑ ๋ค์ํ ํํ๋ฅผ ์ทจํ ์ ์์ผ๋ฉฐ, LLM์ ์๋ต์ ์ ๋ํ๋ ๋ฐ ์ค์ํ ์ญํ ์ ํฉ๋๋ค.
- LLM(Large Language Model): GPT, Gemini ๋ฑ ๋๊ท๋ชจ ์ธ์ด ๋ชจ๋ธ๋ก, ๋๋์ ํ ์คํธ ๋ฐ์ดํฐ์์ ํ์ตํ์ฌ ์ธ์ด๋ฅผ ์ดํดํ๊ณ ์์ฑํ ์ ์๋ ์ธ๊ณต์ง๋ฅ ์์คํ ์ ๋๋ค. LLM์ ํ๋กฌํํธ๋ฅผ ๋ฐํ์ผ๋ก ์ ์ ํ ์๋ต์ ์์ฑํ๊ฑฐ๋, ์ฃผ์ด์ง ์์ ์ ์ํํ๋ ๋ฐ ์ฌ์ฉ๋ฉ๋๋ค.
1-1-2. LangChain ํ๋ ์์ํฌ์ ๊ตฌ์ฑ
- ๋ญ์ฒด์ธ ๋ผ์ด๋ธ๋ฌ๋ฆฌ(LangChain Libraries): ํ์ด์ฌ๊ณผ ์๋ฐ์คํฌ๋ฆฝํธ ๋ผ์ด๋ธ๋ฌ๋ฆฌ๋ฅผ ํฌํจํ๋ฉฐ, ๋ค์ํ ์ปดํฌ๋ํธ์ ์ธํฐํ์ด์ค์ ํตํฉ, ์ด ์ปดํฌ๋ํธ๋ค์ ์ฒด์ธ๊ณผ ์์ด์ ํธ๋ก ๊ฒฐํฉํ ์ ์๋ ๊ธฐ๋ณธ ๋ฐํ์, ๊ทธ๋ฆฌ๊ณ ์ฒด์ธ๊ณผ ์์ด์ ํธ์ ์ฌ์ฉ ๊ฐ๋ฅํ ๊ตฌํ์ด ๊ฐ๋ฅํฉ๋๋ค.
- ๋ญ์ฒด์ธ ํ ํ๋ฆฟ(LangChain Templates): ๋ค์ํ ์์ ์ ์ํ ์ฝ๊ฒ ๋ฐฐํฌํ ์ ์๋ ์ฐธ์กฐ ์ํคํ ์ฒ ๋ชจ์์ ๋๋ค. ์ด ํ ํ๋ฆฟ์ ๊ฐ๋ฐ์๋ค์ด ํน์ ์์ ์ ๋ง์ถฐ ๋น ๋ฅด๊ฒ ์ ํ๋ฆฌ์ผ์ด์ ์ ๊ตฌ์ถํ ์ ์๋๋ก ๋์ต๋๋ค.
- ๋ญ์๋ธ(LangServe): ๋ญ์ฒด์ธ ์ฒด์ธ์ REST API๋ก ๋ฐฐํฌํ ์ ์๊ฒ ํ๋ ๋ผ์ด๋ธ๋ฌ๋ฆฌ์ ๋๋ค. ์ด๋ฅผ ํตํด ๊ฐ๋ฐ์๋ค์ ์์ ์ ์ ํ๋ฆฌ์ผ์ด์ ์ ์ธ๋ถ ์์คํ ๊ณผ ์ฝ๊ฒ ํตํฉํ ์ ์์ต๋๋ค.
- ๋ญ์ค๋ฏธ์ค(LangSmith): ๊ฐ๋ฐ์ ํ๋ซํผ์ผ๋ก, LLM ํ๋ ์์ํฌ์์ ๊ตฌ์ถ๋ ์ฒด์ธ์ ๋๋ฒ๊น , ํ ์คํธ, ํ๊ฐ, ๋ชจ๋ํฐ๋งํ ์ ์์ผ๋ฉฐ, ๋ญ์ฒด์ธ๊ณผ์ ์ํํ ํตํฉ์ ์ง์ํฉ๋๋ค.
1. LangChain์ "Runnable" ํ๋กํ ์ฝ
LangChain์ "Runnable" ํ๋กํ ์ฝ์ ์ฌ์ฉ์๊ฐ ์ฌ์ฉ์ ์ ์ ์ฒด์ธ์ ์ฝ๊ฒ ์์ฑํ๊ณ ๊ด๋ฆฌํ ์ ์๋๋ก ์ค๊ณ๋ ํต์ฌ์ ์ธ ๊ฐ๋ ์ ๋๋ค. ์ด ํ๋กํ ์ฝ์ ํตํด, ๊ฐ๋ฐ์๋ ์ผ๊ด๋ ์ธํฐํ์ด์ค๋ฅผ ์ฌ์ฉํ์ฌ ๋ค์ํ ํ์ ์ ์ปดํฌ๋ํธ๋ฅผ ์กฐํฉํ๊ณ , ๋ณต์กํ ๋ฐ์ดํฐ ์ฒ๋ฆฌ ํ์ดํ๋ผ์ธ์ ๊ตฌ์ฑํ ์ ์์ต๋๋ค. "Runnable" ํ๋กํ ์ฝ์ ๋ค์๊ณผ ๊ฐ์ ์ฃผ์ ๋ฉ์๋๋ฅผ ์ ๊ณตํฉ๋๋ค:
- invoke: ์ฃผ์ด์ง ์ ๋ ฅ์ ๋ํด ์ฒด์ธ์ ํธ์ถํ๊ณ , ๊ฒฐ๊ณผ๋ฅผ ๋ฐํํฉ๋๋ค. ์ด ๋ฉ์๋๋ ๋จ์ผ ์ ๋ ฅ์ ๋ํด ๋๊ธฐ์ ์ผ๋ก ์๋ํฉ๋๋ค.
- batch: ์ ๋ ฅ ๋ฆฌ์คํธ์ ๋ํด ์ฒด์ธ์ ํธ์ถํ๊ณ , ๊ฐ ์ ๋ ฅ์ ๋ํ ๊ฒฐ๊ณผ๋ฅผ ๋ฆฌ์คํธ๋ก ๋ฐํํฉ๋๋ค. ์ด ๋ฉ์๋๋ ์ฌ๋ฌ ์ ๋ ฅ์ ๋ํด ๋๊ธฐ์ ์ผ๋ก ์๋ํ๋ฉฐ, ํจ์จ์ ์ธ ๋ฐฐ์น ์ฒ๋ฆฌ๋ฅผ ๊ฐ๋ฅํ๊ฒ ํฉ๋๋ค.
- stream: ์ ๋ ฅ์ ๋ํด ์ฒด์ธ์ ํธ์ถํ๊ณ , ๊ฒฐ๊ณผ์ ์กฐ๊ฐ๋ค์ ์คํธ๋ฆฌ๋ฐํฉ๋๋ค. ์ด๋ ๋์ฉ๋ ๋ฐ์ดํฐ ์ฒ๋ฆฌ๋ ์ค์๊ฐ ๋ฐ์ดํฐ ์ฒ๋ฆฌ์ ์ ์ฉํฉ๋๋ค.
- ๋น๋๊ธฐ ๋ฒ์ : ainvoke, abatch, astream ๋ฑ์ ๋ฉ์๋๋ ๊ฐ๊ฐ์ ๋๊ธฐ ๋ฒ์ ์ ๋ํ ๋น๋๊ธฐ ์คํ์ ์ง์ํฉ๋๋ค. ์ด๋ฅผ ํตํด ๋น๋๊ธฐ ํ๋ก๊ทธ๋๋ฐ ํจ๋ฌ๋ค์์ ์ฌ์ฉํ์ฌ ๋ ๋์ ์ฒ๋ฆฌ ์ฑ๋ฅ๊ณผ ํจ์จ์ ๋ฌ์ฑํ ์ ์์ต๋๋ค.
๊ฐ ์ปดํฌ๋ํธ๋ ์ ๋ ฅ ๋ฐ ์ถ๋ ฅ ์ ํ์ด ๋ช ํํ๊ฒ ์ ์๋์ด ์์ผ๋ฉฐ, "Runnable" ํ๋กํ ์ฝ์ ๊ตฌํํจ์ผ๋ก์จ, ์ด๋ฌํ ์ปดํฌ๋ํธ๋ค์ ์ ๋ ฅ๊ณผ ์ถ๋ ฅ ์คํค๋ง๋ฅผ ๊ฒ์ฌํ ์ ์์ต๋๋ค. ์ด๋ ๊ฐ๋ฐ์๊ฐ ํ์ ์์ ์ฑ์ ๋ณด์ฅํ๊ณ , ์์์น ๋ชปํ ์ค๋ฅ๋ฅผ ๋ฐฉ์งํ ์ ์๋๋ก ๋์์ค๋๋ค.
LangChain์ ์ฌ์ฉํ์ฌ ์ปค์คํ ์ฒด์ธ์ ์์ฑํ๋ ๊ณผ์ ์ ๋ค์๊ณผ ๊ฐ์ต๋๋ค:
- ํ์ํ ์ปดํฌ๋ํธ๋ฅผ ์ ์ํ๊ณ , ๊ฐ๊ฐ "Runnable" ์ธํฐํ์ด์ค๋ฅผ ๊ตฌํํฉ๋๋ค.
- ์ปดํฌ๋ํธ๋ค์ ์กฐํฉํ์ฌ ์ฌ์ฉ์ ์ ์ ์ฒด์ธ์ ์์ฑํฉ๋๋ค.
- ์์ฑ๋ ์ฒด์ธ์ ์ฌ์ฉํ์ฌ ๋ฐ์ดํฐ ์ฒ๋ฆฌ ์์ ์ ์ํํฉ๋๋ค. ์ด๋, invoke, batch, stream ๋ฉ์๋๋ฅผ ์ฌ์ฉํ์ฌ ์ํ๋ ๋ฐฉ์์ผ๋ก ๋ฐ์ดํฐ๋ฅผ ์ฒ๋ฆฌํ ์ ์์ต๋๋ค.
1๏ธโฃ GPT ์ฝ์ ์๋ฏธ
GPT = Generative Pre-trained Transformer
๊ฐ ๋จ์ด ์๋ฏธ๋ฅผ ํ์ด๋ณด๋ฉด:
- Generative (์์ฑํ)
- ์๋ก์ด ๋ฐ์ดํฐ๋ฅผ ์์ฑํ ์ ์๋ ๋ฅ๋ ฅ์ ์๋ฏธ
- ์: ๊ธ, ์ฝ๋, ๊ทธ๋ฆผ, ์์ ๋ฑ์ ๋ง๋ค์ด๋ผ ์ ์์
- Pre-trained (์ฌ์ ํ์ต๋)
- ๋ฐฉ๋ํ ๋ฐ์ดํฐ๋ก ๋ฏธ๋ฆฌ ํ์ต๋์ด ์์
- ๊ทธ๋์ ์ง๋ฌธํ๋ฉด ๋ฐ๋ก ๋ต์ ์ ๊ณต ๊ฐ๋ฅ
- Transformer (ํธ๋์คํฌ๋จธ)
- 2017๋ ๋ฑ์ฅํ ๋ฅ๋ฌ๋ ๋ชจ๋ธ ๊ตฌ์กฐ
- ๋ฌธ์ฅ ์ ๋จ์ด ๊ฐ ๊ด๊ณ๋ฅผ ํจ์จ์ ์ผ๋ก ์ดํด → ์์ฐ์ด ์ฒ๋ฆฌ(NLP)์ ๊ฐ์
- ์: ๋ฒ์ญ, ์์ฝ, ์ง์์๋ต, ์ฑ๋ด ๋ฑ
2๏ธโฃ ์ฝ๊ฒ ๋งํ๋ฉด
“๋ฏธ๋ฆฌ ํ์ต๋ ํธ๋์คํฌ๋จธ ๋ชจ๋ธ๋ก, ์๋ก์ด ๊ธ์ด๋ ์ ๋ณด๋ฅผ ์์ฑํ๋ AI”
์ฌ๋ผ๋ง(Ollama)์ ๋ผ๋ง(LLaMA)์ ๊ด๊ณ ํ๋์ ๋ณด๊ธฐ
์์ฝ๋ถํฐ ๋ง์๋๋ฆฌ๋ฉด,
๐ ๋ผ๋ง(LLaMA)๋ ๋ฉํ(Meta)๊ฐ ๋ง๋ ๋ํ ์ธ์ด ๋ชจ๋ธ์ด๊ณ ,
๐ ์ฌ๋ผ๋ง(Ollama)๋ ์ด๋ฐ ๋ผ๋ง ๊ฐ์ ๋ชจ๋ธ์ ๊ฐ์ธ ์ปดํจํฐ์์ ์ฝ๊ฒ ์คํํ๊ฒ ํด์ฃผ๋ ๋๊ตฌ์
๋๋ค.
์ฆ, ๋ชจ๋ธ๊ณผ ์คํ ๋๊ตฌ์ ๊ด๊ณ๋ผ๊ณ ๋ณด์๋ฉด ๋ฉ๋๋ค.
1๏ธโฃ ๋ผ๋ง(LLaMA)๋ ๋ฌด์์ธ๊ฐ?
๐ ๊ธฐ๋ณธ ๊ฐ๋
- LLaMA (Large Language Model Meta AI)
- ๋ฉํ(Meta, ๊ตฌ ํ์ด์ค๋ถ)๊ฐ ๊ฐ๋ฐํ ๋๊ท๋ชจ ์ธ์ด ๋ชจ๋ธ(LLM)
- ChatGPT์ ์ ์ฌํ๊ฒ ๊ธ ์์ฑ, ์์ฝ, ๋ฒ์ญ, ์ง์์๋ต ๋ฑ์ ์ํ
๐ ํน์ง
- ์คํ์์ค์ ๊ฐ๊น์ด ๊ณต๊ฐ ์ ์ฑ
- ์ฐ๊ตฌ·๊ฐ๋ฐ์ ์ปค๋ฎค๋ํฐ์์ ํ๋ฐํ ์ฌ์ฉ
- LLaMA 2, LLaMA 3 ๋ฑ ๋ฒ์ ์ด ๊ณ์ ๋ฐ์ ์ค
๐ ์ฝ๊ฒ ๋งํด, ์์ง(๋๋) ์ญํ ์ ๋๋ค.
2๏ธโฃ ์ฌ๋ผ๋ง(Ollama)๋ ๋ฌด์์ธ๊ฐ?
๐ ๊ธฐ๋ณธ ๊ฐ๋
- **๋ก์ปฌ ํ๊ฒฝ(๋ด PC)**์์ LLM์ ์คํํ ์ ์๊ฒ ํด์ฃผ๋ ํ๋ซํผ/๋ฐ์ฒ
- ๋งฅOS, ์๋์ฐ, ๋ฆฌ๋ ์ค ์ง์
๐ ์ฃผ์ ๊ธฐ๋ฅ
- ๋ผ๋ง, ๋ฏธ์คํธ๋(Mistral), ์ ฌ๋ง(Gemma) ๋ฑ ๋ค์ํ ๋ชจ๋ธ์
๐ ๋ช ๋ น์ด ํ ์ค๋ก ๋ค์ด๋ก๋ & ์คํ - ์๋ฒ ์ค์ , GPU ์ธํ ๊ฐ์ ๋ณต์กํ ์์ ์ ์๋์ผ๋ก ์ฒ๋ฆฌ
๐ ์ฝ๊ฒ ๋งํด, ์์ง์ ์ฝ๊ฒ ์๋ ๊ฑธ์ด์ฃผ๋ ์๋ ๋ฒํผ + ์ ๋น์์ ๋๋ค.
3๏ธโฃ ์ฌ๋ผ๋ง์ ๋ผ๋ง์ ๊ด๊ณ ์ ๋ฆฌ
| ๊ตฌ๋ถ | ๋ผ๋ง(LLaMA) | ์ฌ๋ผ๋ง(Ollama) |
| ์ ์ฒด | ์ธ์ด ๋ชจ๋ธ | ์คํ ๋๊ตฌ |
| ์ญํ | ์๊ฐํ๊ณ ๊ธ์ ์์ฑ | ๋ชจ๋ธ์ ๋ก์ปฌ์์ ๋๋ ค์ค |
| ๊ฐ๋ฐ์ฌ | Meta | Ollama ํ |
| ๊ด๊ณ | ์คํ ๋์ | ์คํ ์ฃผ์ฒด |
๐ก **์ฌ๋ผ๋ง๋ ๋ผ๋ง๋ฅผ ํฌํจํ ์ฌ๋ฌ LLM์ “๋๋ ค์ฃผ๋ ๊ทธ๋ฆ”**์ด๊ณ ,
๐ก **๋ผ๋ง๋ ๊ทธ ์์์ ์๋ํ๋ “๋”**๋ผ๊ณ ์ดํดํ์๋ฉด ๋ฑ ๋ง์ต๋๋ค.
4๏ธโฃ ๋น์ ๋ก ์ดํดํ๋ฉด ๋ ์ฝ์ต๋๋ค
- ๐ ๋ผ๋ง(LLaMA) = ์๋์ฐจ ์์ง
- ๐งฐ ์ฌ๋ผ๋ง(Ollama) = ์ฐจ๊ณ + ์๋ ์์คํ

'Project ESG+AI > Tech Basics' ์นดํ ๊ณ ๋ฆฌ์ ๋ค๋ฅธ ๊ธ
| 51์ผ์ฐจ. ๊ฐ๋ ์ ๋ฆฌ (0) | 2025.12.24 |
|---|---|
| 47์ผ์ฐจ. IT ๊ฐ๋ ์ ๋ฆฌ (0) | 2025.12.17 |
| 44์ผ, 45์ผ์ฐจ. IT ๊ฐ๋ ์ ๋ฆฌ (1) | 2025.12.16 |
| 43์ผ์ฐจ. IT ๊ฐ๋ ์ ๋ฆฌ (1) | 2025.12.11 |
| 41์ผ์ฐจ. IT ๊ฐ๋ ์ ๋ฆฌ (0) | 2025.12.09 |