728x90
반응형
LM Studio를 이용하여 AI Model 을 PC에 다운받아 돌려봄
LM Studio 다운로드 및 설치
👾 LM Studio - Discover and run local LLMs
Find, download, and experiment with local LLMs
lmstudio.ai
- 초기 화면
- AI Model 검색 및 다운로드 화면 (다운로드되면 pc에 *.gguf 파일로 저장됨)
- 다운로드한 AI Model 를 chat 테스트
- 테스트 모델은 EEVE Korean Instruct 10 v1 0 34B Q8_0.gguf
- AI Model Prompt, 검색 옵션을 바꿔가며 테스트 가능
- GPU 설정 옵션
- 검색 파라미터 변경 등
728x90
반응형
LIST
'AI' 카테고리의 다른 글
| ollama gradio 로 Chat Bot 테스트 해보기 gemma 테스트(2b/7b) (0) | 2024.05.11 |
|---|---|
| HuggingFace GGUF Download 방법 (0) | 2024.05.10 |
| Ollama AI Model Download 경로 (0) | 2024.05.10 |
| [Ollama Docker Open-webUI] ChatGPT 윈도우 로컬PC에서 돌려보기 (0) | 2024.05.06 |
| [Poetry] Poetry 설치 및 사용방법 (0) | 2024.05.06 |