안녕하세요! 오늘은 리눅스(Ubuntu, Debian 등) 환경에서 LLM을 로컬로 실행할 때 자주 쓰는 Ollama(올라마)를 흔적도 없이 완전히 삭제하는 방법을 정리해 보려고 합니다.
Ollama는 편리한 도구이지만, 다운로드한 대용량 AI 모델 파일(llama3, mistral 등)들이 서버나 PC 용량을 엄청나게 차지하곤 합니다. 단순히 실행 파일만 지우면 기가바이트(GB) 단위의 모델 데이터가 그대로 남아 용량 낭비가 심해지므로, 아래 단계를 따라 백그라운드 서비스부터 데이터까지 깔끔하게 지워보세요!
안쓰고 있는 모델들. 보니 용량확보와 ollama도 안쓰게 될테니 삭제 시작.
| $ ollama ls NAME ID SIZE MODIFIED qwen25c32b-dev:latest 2f1f5d205970 19 GB 4 months ago qwen2.5-coder:32b b92d6a0bd47e 19 GB 4 months ago $ ollama rm qwen2.5-coder:32b $ ollama rm qwen25c32b-dev:latest |
1. Ollama 백그라운드 서비스 중지 및 비활성화
리눅스에 Ollama를 설치하면 시스템이 켜질 때마다 백그라운드에서 자동으로 실행되도록 systemd 서비스가 등록됩니다. 먼저 이 서비스를 멈추고 비활성화해 줍니다.
터미널을 열고 아래 명령어를 순서대로 입력하세요.
bash
# 1. 실행 중인 Ollama 서비스 중지
sudo systemctl stop ollama
# 2. 부팅 시 자동 실행 비활성화
sudo systemctl disable ollama
코드를 사용할 때는 주의가 필요합니다.
2. 서비스 파일 및 실행 바이너리 제거
이제 시스템에 등록된 서비스 정의 파일과 Ollama 프로그램(바이너리) 자체를 삭제합니다.
bash
# 1. systemd 서비스 파일 삭제
sudo rm /etc/systemd/system/ollama.service
# 2. Ollama 실행 파일 삭제
sudo rm /usr/local/bin/ollama
코드를 사용할 때는 주의가 필요합니다.
3. 대용량 모델 파일 및 데이터 디렉토리 삭제
이 단계가 가장 중요합니다! 다운로드받았던 수많은 오픈소스 모델들이 저장된 폴더를 통째로 날려 용량을 확보하는 과정입니다.
bash
# 모델 및 라이브러리 데이터가 저장된 디렉토리 삭제
sudo rm -rf /usr/share/ollama
코드를 사용할 때는 주의가 필요합니다.
(주의: 이 명령어를 실행하면 기존에 다운로드한 모델 데이터가 모두 사라지며 복구할 수 없습니다.)
4. Ollama 전용 사용자 및 그룹 삭제
Ollama 설치 시 보안과 권한 관리를 위해 자동으로 생성되었던 ollama 시스템 계정과 그룹을 정리해 줍니다.
bash
# ollama 사용자 삭제
sudo userdel ollama
# ollama 그룹 삭제
sudo groupdel ollama
코드를 사용할 때는 주의가 필요합니다.
💡 보너스 팁: 프로그램은 두고 '특정 모델만' 지우고 싶다면?
전 다 지웠습니다.
Ollama를 계속 사용할 예정인데 특정 모델 때문에 용량이 부족한 경우라면, 프로그램을 아예 지울 필요는 없습니다. 아래 명령어로 특정 모델만 골라서 삭제해 보세요.
bash
# 1. 현재 내 PC에 설치된 모델 목록 확인
ollama list
# 2. 필요 없는 특정 모델 삭제 (예: llama3 삭제 시)
ollama rm llama3
코드를 사용할 때는 주의가 필요합니다.
마치며
위의 1~4단계를 모두 마치셨다면 리눅스 시스템에서 Ollama와 관련된 모든 프로세스, 파일, 계정이 완벽하게 제거되었습니다. 디스크 용량이 부족하셨던 분들에게 도움이 되었기를 바랍니다. 궁금한 점이 있다면 댓글로 남겨주세요!
