삼시세끼코딩

  • 홈
  • 태그
  • 방명록

ollama 1

클라우드 없이 로컬 LLM 환경 구축하기 (Ubuntu + Ollama + Open WebUI, GTX 1080 테스트)

로컬 LLM을 서비스나 개인 프로젝트에 붙이려면 결국 비용 문제가 따라옵니다. 처음에는 “API로 일단 써보자”로 시작하지만, 프롬프트를 조금만 바꾸고 결과를 비교하는 과정을 반복하면 호출량이 금방 쌓입니다.이번에는 방향을 바꿔 클라우드 없이 Ubuntu 서버에 로컬 LLM 환경을 직접 구성해봤습니다. 특히 집에 남는 **GTX 1080 장비를 재활용해서 ‘가볍게 테스트’**해보는 게 목적이었습니다. 목표Ubuntu에 Ollama 설치모델 1개 다운로드 후 실행Open WebUI까지 붙여 브라우저에서 테스트GTX 1080 환경에서 “쓸 만한지” 가볍게 확인왜 로컬 LLM을 써보려고 했나로컬 LLM을 보게 된 이유는 단순히 비용 통제 때문입니다.제가 테스트하려는 방향은 자유 채팅형 서비스라기보다, 정해진 ..

AI 2026.03.19
이전
1
다음
더보기
프로필사진

  • 분류 전체보기 (57)
    • 프로그래밍 언어 (7)
      • 디자인패턴 (2)
      • JAVA (4)
      • Python (1)
      • JavaScript (0)
    • 웹 개발 (0)
    • 데이터베이스 (0)
    • 시스템 관리 (35)
      • 리눅스 (27)
      • wsl (5)
      • docker (1)
      • CI_CD (2)
    • WEB_WAS (2)
      • APACHE (1)
      • JBOSS_Wildfly (0)
      • Nginx (1)
    • 블록체인 (1)
    • 클라우드 컴퓨팅 (9)
      • AWS (9)
    • AI (3)
      • 빅데이터분석기사 (0)
      • 머신러닝 (2)

Tag

wsl2, 자바, 우분투, WSL, umask, openwebui, java, 리눅스, AWS, 리눅스 프로세스, 디자인패턴, 리눅스 기초, top, permission, 초보자머신러닝, ubuntu, Linux, EC2, PS, docker,

최근글과 인기글

  • 최근글
  • 인기글

최근댓글

공지사항

페이스북 트위터 플러그인

  • Facebook
  • Twitter

Archives

Calendar

«   2026/06   »
일 월 화 수 목 금 토
1 2 3 4 5 6
7 8 9 10 11 12 13
14 15 16 17 18 19 20
21 22 23 24 25 26 27
28 29 30

방문자수Total

  • Today :
  • Yesterday :

Copyright © AXZ Corp. All rights reserved.

티스토리툴바