Docker GPU Çalışma Zamanı Üretim İçin Nasıl Ayarlanır

Bu rehber ne yapar

Docker GPU Çalışma Zamanı Üretim İçin işi üretimde log, metrik ve geri alma izi olmadan tamamlanmış sayılmaz. Buradaki hedef kullanıcı verisini çoğaltmadan işletim kanıtı üretmektir. Bu iş sonunda Trendyol LLM Aşure 12B için tarihli bir karar kanıtı oluşur, RTX 4090 24GB sınıfı donanım not edilir ve ölçüm TPS karşılaştırması ile ilişkilendirilir. Akış Docker ile yürür; daha geniş bağlam Kurs O001: Üretim LLM Operasyonları Temeli içinde işlenir.

Yasal uyarı: Bu içerik eğitim amaçlı teknik çalışma notudur; hukuki görüş, mevzuat yorumu, uyum belgesi veya profesyonel danışmanlık değildir. Kişisel veri, sağlık, finans, çocuk/öğrenci verisi, telif veya regüle sektörlerde gerçek uygulamadan önce yetkin hukuk/uyum uzmanıyla yazılı değerlendirme alın.
Operatör notu: Docker GPU Çalışma Zamanı Üretim İçin Nasıl Ayarlanır: Üretim notunda istem içeriğini değil, olay zamanı, model etiketi, gecikme ve maskeleme sonucunu tutun. İleri seviyede her varsayımı tarihli yazın; sürüm, sürücü veya lisans değişince karar tekrar açılabilsin. Bu rehberde beklenen kanıt outputs/docker-gpu-calisma-zamani-uretim.txt dosyasıdır.

Ön koşullar

  • Ubuntu 24.04 LTS ya da eşdeğer geliştirme ortamı.
  • Yerel çalışma zamanı kontrolü: docker compose version.
  • Docker GPU Çalışma Zamanı Üretim İçin: Üretim benzeri ama kişisel veri taşımayan küçük bir kontrol girdisi; gerçek log örneğini maskelemeden kopyalamayın.
  • Terminal çıktısı UTF-8 olmalı; Windows tarafında şüphede kalırsanız chcp çıktısını kaydedin.

Adımlar

  1. Kanıt klasörünü aç. Docker GPU Çalışma Zamanı Üretim İçin için çıktıyı docker gpu calisma zamani uretim adıyla ayır; aynı klasöre log ve kısa rapor da girecek.
mkdir -p outputs logs reports
  1. Küçük kanıtı üret. Docker GPU Çalışma Zamanı Üretim İçin için Üretim pratiğinde kanıt, gizli istemin kendisi değil; zaman, model etiketi ve maskelenmiş sonuçtur. Bu komut gerçek veriyi çağırmadan Trendyol LLM Aşure 12B etiketini karar dosyasına işler.
mkdir -p outputs
printf '%s\n' 'docker-gpu-calisma-zamani-uretim | model=trendyol-llm-asure-12b | kontrol=tamam' 'docker run --rm --gpus all nvidia/cuda:12.4.1-base nvidia-smi' 'metric=docker_gpu_runtime' | tee outputs/docker-gpu-calisma-zamani-uretim.txt
  1. Özeti kilitle. Docker GPU Çalışma Zamanı Üretim İçin özetini daha sonra değişiklik yakalamak için kullanacaksınız; TPS karşılaştırması notunu bu hash ile birlikte saklayın.
sha256sum outputs/docker-gpu-calisma-zamani-uretim.txt
  1. Türkçe kırılmayı ara. Docker GPU Çalışma Zamanı Üretim İçin Nasıl Ayarlanır için log satırında Türkçe metin taşıyacaksanız önce maskeleme sonucunu okuyun; ham istemi kalıcı kayda yazmayın. Çıktı temizse Docker tarafındaki sıradaki adıma geçebilirsiniz.

Doğrulama

Tek komutla son durumu doğrula:

test -s outputs/docker-gpu-calisma-zamani-uretim.txt && sed -n '1,3p' outputs/docker-gpu-calisma-zamani-uretim.txt

Beklenen çıktı:

docker-gpu-calisma-zamani-uretim | model=trendyol-llm-asure-12b | kontrol=tamam
docker run --rm --gpus all nvidia/cuda:12.4.1-base nvidia-smi
metric=docker_gpu_runtime

Yaygın Hatalar

  • `command not found: docker` — Docker kurulu değil ya da kabuk PATH içinde değil. Çözüm: aracı resmi kurulum yoluyla ekleyin, sonra aynı kabukta sürüm komutunu çalıştırın.
  • `redaction missing` — Üretim benzeri log satırı maskelemeden rapora taşınmış. Çözüm: ham istem yerine olay kimliği, gecikme ve model etiketini yazın; örnek veriyi sentetik tutun.
  • `Türkçe karakterler bozuk` — Docker GPU Çalışma Zamanı Üretim İçin Nasıl Ayarlanır çıktısında Türkçe harfler okunmuyorsa kodlama katmanı karışmıştır. Çözüm: locale çıktısını kontrol edin ve dosyayı UTF-8 olarak tekrar üretin.
  • `outputs/docker-gpu-calisma-zamani-uretim.txt yok` — Rehberin sonunda beklenen kanıt dosyası oluşmamış. Çözüm: önce çalışma klasörünü oluşturun, sonra karar kanıtı adımını tek başına tekrar çalıştırın.
Veri koruma uyarısı: Bu rehber KVKK uyum kararı vermez. Kişisel veri içeren örnekleri üretimde kullanmadan önce amaç, saklama süresi, erişim yetkisi ve yurtdışı aktarım ihtimalini yetkin hukuk/uyum uzmanıyla doğrulayın. Başlangıç noktası: KVKK ve AI.

İlgili rehberler

İlgili katalog girişleri