[실습] Ollama 설치하기 / Hugging Face란 무엇일까? / GGUF

JSCODE 시니

2026. 06. 13.

✅ 1. Ollama 설치하기

Download Ollama on macOS

Download Ollama for macOS

https://ollama.com/download

• 각 운영체제에 맞는 Ollama 설치하기

• 버전에 따라 다르지만, Ollama에서 제공하는 LLM 모델을 사용하기 위해서는 1.5GB 메모리가 필요하니 참고할 것

✅ 2. Ollma가 제공하는 모델

Ollama

Search for models on Ollama.

https://ollama.com/search

✅ 3. Hugging Face란 무엇일까?

Models – Hugging Face

Explore machine learning models.

https://huggingface.co/models

• Hugging Face는 AI의 GitHub라고 생각하면 됨

• 우리가 소스코드를 공유할 때 Github를 사용하는 것처럼 전 세계의 AI 연구자들과 기업들이 자신들이 만든 AI 모델과 데이터를 무료로 올려두고 공유하는 세계 최대의 오픈소스 플랫폼

✅ 4. GGUF

• GGUF는 GPT-Generated Unified Format

• AI가 최적화된 압축 파일 확장자

• 거대한 AI모델들을 개인용 PC에서도 돌릴 수 있도록 압축(양자화)해 놓은 파일

• Ollama는 GGUF를 돌려주는 구동기라고 생각하면 됨