Kubernetes LLM Düğüm Seçici Nasıl Yazılır

Bu rehber ne yapar

Kubernetes LLM Düğüm Seçici işi üretimde log, metrik ve geri alma izi olmadan tamamlanmış sayılmaz. Buradaki hedef kullanıcı verisini çoğaltmadan işletim kanıtı üretmektir. Bu iş sonunda Qwen2.5 72B Asian için tarihli bir karar kanıtı oluşur, RTX 4090 24GB sınıfı donanım not edilir ve ölçüm TR-MMLU karşılaştırması ile ilişkilendirilir. Akış GitHub Actions ile yürür; daha geniş bağlam Kurs O003: Çoklu GPU ve Sunum içinde işlenir.

Yasal uyarı: Bu içerik eğitim amaçlı teknik çalışma notudur; hukuki görüş, mevzuat yorumu, uyum belgesi veya profesyonel danışmanlık değildir. Kişisel veri, sağlık, finans, çocuk/öğrenci verisi, telif veya regüle sektörlerde gerçek uygulamadan önce yetkin hukuk/uyum uzmanıyla yazılı değerlendirme alın.
Operatör notu: Kubernetes LLM Düğüm Seçici Nasıl Yazılır: Üretim notunda istem içeriğini değil, olay zamanı, model etiketi, gecikme ve maskeleme sonucunu tutun. İleri seviyede her varsayımı tarihli yazın; sürüm, sürücü veya lisans değişince karar tekrar açılabilsin. Bu rehberde beklenen kanıt outputs/kubernetes-llm-dugum-secici.yml dosyasıdır.

Ön koşullar

  • Ubuntu 24.04 LTS ya da eşdeğer geliştirme ortamı.
  • Yerel çalışma zamanı kontrolü: kubectl version --client.
  • Kubernetes LLM Düğüm Seçici: Üretim benzeri ama kişisel veri taşımayan küçük bir kontrol girdisi; gerçek log örneğini maskelemeden kopyalamayın.
  • Terminal çıktısı UTF-8 olmalı; Windows tarafında şüphede kalırsanız chcp çıktısını kaydedin.

Adımlar

  1. Kanıt klasörünü aç. Kubernetes LLM Düğüm Seçici için çıktıyı kubernetes llm dugum secici adıyla ayır; aynı klasöre log ve kısa rapor da girecek.
mkdir -p outputs logs reports
  1. Küçük kanıtı üret. Kubernetes LLM Düğüm Seçici için Üretim pratiğinde kanıt, gizli istemin kendisi değil; zaman, model etiketi ve maskelenmiş sonuçtur. Bu komut gerçek veriyi çağırmadan Qwen2.5 72B Asian etiketini karar dosyasına işler.
mkdir -p outputs
cat > outputs/kubernetes-llm-dugum-secici.yml <<'YAML'
apiVersion: apps/v1
kind: Deployment
metadata:
  name: yerel-llm
spec:
  template:
    spec:
      nodeSelector:
        accelerator: nvidia
YAML
kubectl apply --dry-run=client -f outputs/kubernetes-llm-dugum-secici.yml >/dev/null || true
  1. Özeti kilitle. Kubernetes LLM Düğüm Seçici özetini daha sonra değişiklik yakalamak için kullanacaksınız; TR-MMLU karşılaştırması notunu bu hash ile birlikte saklayın.
sha256sum outputs/kubernetes-llm-dugum-secici.yml
  1. Türkçe kırılmayı ara. Kubernetes LLM Düğüm Seçici Nasıl Yazılır için log satırında Türkçe metin taşıyacaksanız önce maskeleme sonucunu okuyun; ham istemi kalıcı kayda yazmayın. Çıktı temizse GitHub Actions tarafındaki sıradaki adıma geçebilirsiniz.

Doğrulama

Tek komutla son durumu doğrula:

test -s outputs/kubernetes-llm-dugum-secici.yml && sed -n '1,3p' outputs/kubernetes-llm-dugum-secici.yml

Beklenen çıktı:

apiVersion: apps/v1
kind: Deployment
metadata:

Yaygın Hatalar

  • `services must be a mapping` — YAML girintisi bozulduğu için çalışma zamanı dosyayı okuyamıyor. Çözüm: sekme karakterlerini boşlukla değiştirin ve docker compose config ile dosyayı okutun.
  • `redaction missing` — Üretim benzeri log satırı maskelemeden rapora taşınmış. Çözüm: ham istem yerine olay kimliği, gecikme ve model etiketini yazın; örnek veriyi sentetik tutun.
  • `Türkçe karakterler bozuk` — Kubernetes LLM Düğüm Seçici Nasıl Yazılır çıktısında Türkçe harfler okunmuyorsa kodlama katmanı karışmıştır. Çözüm: locale çıktısını kontrol edin ve dosyayı UTF-8 olarak tekrar üretin.
  • `outputs/kubernetes-llm-dugum-secici.yml yok` — Rehberin sonunda beklenen kanıt dosyası oluşmamış. Çözüm: önce çalışma klasörünü oluşturun, sonra karar kanıtı adımını tek başına tekrar çalıştırın.
Veri koruma uyarısı: Bu rehber KVKK uyum kararı vermez. Kişisel veri içeren örnekleri üretimde kullanmadan önce amaç, saklama süresi, erişim yetkisi ve yurtdışı aktarım ihtimalini yetkin hukuk/uyum uzmanıyla doğrulayın. Başlangıç noktası: KVKK ve AI.

İlgili rehberler

İlgili katalog girişleri