deepseek R1 8b, 14b, 32b 모델 로컬 설치

그냥 cmd 프롬프트로 명령을 내리는 게 싫고

웹형태로 이용하고 싶었다.

 

방법은

 

올라마 설치

https://ollama.com/search

오른쪽 위에 download로 ollama 다운 후 설치

cmd 열고 원하는 파라미터 설정하고
오른쪽에 ollama run deepseek-r1:8b 복사하고
cmd에 붙여넣기 한다.

여기에서 deepseek-r1 설치

docker.com으로 이동
download docker desktop 선택
최근 인텔 cpu면 arm64 선택

실행
sign in 하고

https://github.com/open-webui/open-webui
여기에서
Installation with Default Configuration으로 간다.
거기에 보면 **If Ollama is on your computer**, use this command:로 간다.
copied

cmd
붙여넣기

 

나도 어쩌다가 설치하긴 해서 디테일하게 다시 복기가 쉽지 않지만 이 정도로 설치를 했다.

써보니까 한국어 잘 못하는 거 같은데... 흠

 

8b가 좀 아쉬워서 14b와 32b를 설치해봤다.

내 컴퓨터는 i7-14700

64ram, 4070ti 정도

 

우선 좀 더 지켜봐야겠다.