Docker Compose ile Ollama Nasıl Çalıştırılır

Bu rehber ne yapar

Docker Compose ile Ollama rehberi, "kuruldu" cümlesini servis, port ve kanıt dosyasıyla ayırır. Amaç sihirli başarı ekranı değil; bozulduğunda hangi katmana bakacağınızı bilmenizdir. Bu iş sonunda Llama 3.3 70B için tarihli bir karar kanıtı oluşur, RTX 4090 24GB sınıfı donanım not edilir ve ölçüm TR-MMLU karşılaştırması ile ilişkilendirilir. Akış Docker ile yürür; daha geniş bağlam Kurs T005: Windows'ta Yerel Yapay Zeka içinde işlenir.

Yasal uyarı: Bu içerik eğitim amaçlı teknik çalışma notudur; hukuki görüş, mevzuat yorumu, uyum belgesi veya profesyonel danışmanlık değildir. Kişisel veri, sağlık, finans, çocuk/öğrenci verisi, telif veya regüle sektörlerde gerçek uygulamadan önce yetkin hukuk/uyum uzmanıyla yazılı değerlendirme alın.
Operatör notu: Docker Compose ile Ollama Nasıl Çalıştırılır: Kurulum rehberinde başarı ekran görüntüsü değil, tekrar üretilebilir komut ve özet kaydıdır. Orta seviyede komutun yanında hata modunu da yazın; gelecekteki bakım çoğu zaman bu satırdan başlar. Bu rehberde beklenen kanıt outputs/docker-compose-ollama-calistirma.yml dosyasıdır.

Ön koşullar

  • Ubuntu 24.04 LTS ya da eşdeğer geliştirme ortamı.
  • Yerel çalışma zamanı kontrolü: docker compose version.
  • Docker Compose ile Ollama: Model önbelleği ve kurulum kayıtları için en az 10 GB boş disk; kurulum dizini değiştiyse eski yolu da not edin.
  • Terminal çıktısı UTF-8 olmalı; Windows tarafında şüphede kalırsanız chcp çıktısını kaydedin.

Adımlar

  1. Kanıt klasörünü aç. Docker Compose ile Ollama için çıktıyı docker compose ollama calistirma adıyla ayır; aynı klasöre log ve kısa rapor da girecek.
mkdir -p outputs logs reports
  1. Küçük kanıtı üret. Docker Compose ile Ollama için Kurulum çıktısı dağınık kalırsa en çok zaman kaybettiren şey, hangi adımın gerçekten tamamlandığını yeniden aramaktır. Bu komut gerçek veriyi çağırmadan Llama 3.3 70B etiketini karar dosyasına işler.
mkdir -p outputs
cat > outputs/docker-compose-ollama-calistirma.yml <<'YAML'
services:
  ollama:
    image: ollama/ollama:latest
    ports:
      - "127.0.0.1:11434:11434"
    volumes:
      - ollama-models:/root/.ollama
volumes:
  ollama-models:
YAML
docker compose -f outputs/docker-compose-ollama-calistirma.yml config --quiet || true
  1. Özeti kilitle. Docker Compose ile Ollama özetini daha sonra değişiklik yakalamak için kullanacaksınız; TR-MMLU karşılaştırması notunu bu hash ile birlikte saklayın.
sha256sum outputs/docker-compose-ollama-calistirma.yml
  1. Türkçe kırılmayı ara. Docker Compose ile Ollama Nasıl Çalıştırılır cevabı ortasında İngilizceye kayarsa sistem istemine tek dil kısıtı ekleyin ve aynı girdiyi tekrar çalıştırın. Çıktı temizse Docker tarafındaki sıradaki adıma geçebilirsiniz.

Maliyet karar kaydı

TRY maliyet notu: Bu rehberdeki ölçüm teknik davranışı anlamak içindir; donanım tam yükte uzun süre çalışacaksa maliyet hesabını TCO karar kaydı içinde ayrı tutun. Ev, ofis ve sanayi tarifesi aynı varsayım değildir. kWh fiyatını canlı fiyat etiketi gibi değil; tarih, tarife türü ve kaynakla birlikte karar kaydına yazın.

Doğrulama

Tek komutla son durumu doğrula:

test -s outputs/docker-compose-ollama-calistirma.yml && sed -n '1,3p' outputs/docker-compose-ollama-calistirma.yml

Beklenen çıktı:

services:
  ollama:
    image: ollama/ollama:latest

Yaygın Hatalar

  • `services must be a mapping` — YAML girintisi bozulduğu için çalışma zamanı dosyayı okuyamıyor. Çözüm: sekme karakterlerini boşlukla değiştirin ve docker compose config ile dosyayı okutun.
  • `connection refused` — Servis başlamamış veya beklenen portta dinlemiyor. Çözüm: servisi başlatın, portu sadece gerekli arayüzde açın ve doğrulama komutunu tekrar çalıştırın.
  • `Türkçe karakterler bozuk` — Docker Compose ile Ollama Nasıl Çalıştırılır çıktısında Türkçe harfler okunmuyorsa kodlama katmanı karışmıştır. Çözüm: locale çıktısını kontrol edin ve dosyayı UTF-8 olarak tekrar üretin.
  • `outputs/docker-compose-ollama-calistirma.yml yok` — Rehberin sonunda beklenen kanıt dosyası oluşmamış. Çözüm: önce çalışma klasörünü oluşturun, sonra karar kanıtı adımını tek başına tekrar çalıştırın.
Veri koruma uyarısı: Bu rehber KVKK uyum kararı vermez. Kişisel veri içeren örnekleri üretimde kullanmadan önce amaç, saklama süresi, erişim yetkisi ve yurtdışı aktarım ihtimalini yetkin hukuk/uyum uzmanıyla doğrulayın. Başlangıç noktası: KVKK ve AI.

İlgili rehberler

İlgili katalog girişleri