Kurs O001: Üretim LLM Operasyonları Temeli

Bu kurs neden var

Bu kurs, "Üretim LLM Operasyonları Temeli" konusunu dağınık notlardan çıkarıp ölçülebilir bir çalışma akışına bağlar. O001 okuyucusu tek bir kurulum komutunu değil, model, donanım, karşılaştırma ve veri sınırını aynı anda düşünmeyi öğrenir. Eğer Kurs G001: Türkçe Belge Getirme Temeli ve Kurs G006: Geliştirici Otomasyonları içeriğini bitirmediyseniz önce oraya dönün. Buradaki hedef gösteri yapmak değil; hata çıktısını okuyup hangi katmanın kırıldığını bulmaktır.

Yasal uyarı: Bu içerik eğitim amaçlı teknik çalışma notudur; hukuki görüş, mevzuat yorumu, uyum belgesi veya profesyonel danışmanlık değildir. Kişisel veri, sağlık, finans, çocuk/öğrenci verisi, telif veya regüle sektörlerde gerçek uygulamadan önce yetkin hukuk/uyum uzmanıyla yazılı değerlendirme alın.

Bittiğinde bilecekleriniz

  • Trendyol LLM Aşure 12B ile kısa Türkçe test üretip çıktıyı dosyaya alacaksınız.
  • RTX 4090 24GB sınıfı donanımın nerede sınırlandığını ayıracaksınız.
  • TPS karşılaştırması sonucunu günlük karar kaydına bağlayacaksınız.
  • Ollama systemd Sağlık Kontrolü Nasıl Yazılır rehberini tek başınıza uygulayacaksınız.

İlgili kataloğa bağlar

Öğrenme grafında yakın düğümler

Bölüm 1: SLO ve kullanıcı beklentisi

Tahmini süre: 45 dakika

Bu bölüm operatör bakışıyla kapasite, geri alma ve olay sonrası okunabilir kanıt ister. SLO ve kullanıcı beklentisi başlığı altında önce demo başarısı ile üretim işletimi ayrılır; çünkü Üretim LLM Operasyonları Temeli içinde en pahalı hata yanlış katmanı suçlamaktır. O001 Bölüm 1 için iyi not, cevabın güzel görünmesi değil, hangi komutla üretildiğinin iki hafta sonra da anlaşılmasıdır.

SLO ve kullanıcı beklentisi çalışırken Trendyol LLM Aşure 12B bir vitrin adı değil, sınanacak varsayımdır. SLO ve kullanıcı beklentisi için Model etiketi değiştiğinde eski loglarla yeni davranışı ayıramıyorsanız üretim notu eksiktir. O001-1 notunda model etiketi, istem dili ve çıktı yolu aynı satırda durursa kalite tartışması kişisel beğeniden çıkar. SLO ve kullanıcı beklentisi Türkçe cevaplarında ekler, özel adlar ve uzun kurum adları bağlamı beklenenden hızlı doldurabilir; bu yüzden kısa kontrol istemini uzun belge denemesinden ayrı tutun.

SLO ve kullanıcı beklentisi için RTX 4090 24GB tarafında dikkat edilecek şey tek başına hız değildir. Kapasite hesabında tek iyi koşuyu değil, kuyruk biriktiği andaki tepe belleği okuyun. Üretim LLM Operasyonları Temeli Bölüm 1 akışında VRAM dolunca bazen daha küçük model seçmek, aynı modeli daha sert kuantize etmekten daha okunur sonuç verir. O001-1 elektrik ve soğutma notu da buraya girer; karar kaydında tarihli varsayım olarak durması yeterlidir, canlı fiyat iddiasına çevirmeyin.

SLO ve kullanıcı beklentisi bölümünde TPS karşılaştırması çıpa görevi görür, ama tek başına ürün kararı gibi davranmaz. Ölçümde gecikme bütçesi, hata oranı ve geri alma işareti birlikte görünmelidir. O001 Bölüm 1 denemesinde komut, kısa çıktı ve özet hash aynı klasöre yazılırsa sonraki model değişimi sessizce geçmez. Böyle bir kayıt düzeni solo çalışan kişi için ikinci hafıza, küçük ekip için de ortak tartışma zemini olur.

SLO ve kullanıcı beklentisi başlığında özel risk şudur: Üretim bölümünde ham istemi kalıcı loga taşımadan önce maskeleme sonucunu ayrıca kontrol edin. SLO ve kullanıcı beklentisi örneğinde kişisel veri, sağlık, finans, öğrenci ya da dava içeriği gerçek örnek gibi kopyalanmamalıdır; sentetik girdiyle aynı teknik kırılmayı yakalayabiliyorsanız onu kullanın. O001-1 çizgisi hukuki uygunluk kararı vermez, sadece teknik denemeyi daha temiz hale getirir ve uzman incelemesine taşınacak notu düzenler.

O001 Bölüm 1 sonunda beklenen çıktı küçük ama işe yarar: outputs/o001/bolum-1.txt dosyası, "SLO ve kullanıcı beklentisi" adı ve ilk risk yorumu. SLO ve kullanıcı beklentisi çıktısı beklenen gibi değilse sırayı bozmayın: önce çalışma zamanı, sonra model etiketi, sonra donanım, en son istem metni. Bu sıra ağır görünmez ama panik anında iyi bir raydır. Bir sonraki adım Bölüm 2 içinde aynı kararı çalışma komutuna bağlar.

Anahtar içgörü: İşletim izi kararını model cevabından önce kanıt dosyasıyla görünür yapın.

mkdir -p outputs/o001
printf '%s\n' 'O001 | SLO ve kullanıcı beklentisi | model=trendyol-llm-asure-12b | donanim=rtx-4090-24gb' > outputs/o001/bolum-1.txt
printf '%s\n' 'metric=p95_latency_ms' 'kontrol=rollback_tag_noted' >> outputs/o001/bolum-1.txt

Egzersiz: "SLO ve kullanıcı beklentisi" komutunu çalıştırın, çıktıyı outputs/o001/bolum-1.txt dosyasına kaydedin ve dosyanın ilk satırına hangi katmanın riskli olduğunu yazın. Süre sınırı: 15 dakika.

Bölüm 2: Sağlık kontrolü ve model ön ısıtma

Tahmini süre: 45 dakika

Bu bölüm operatör bakışıyla kapasite, geri alma ve olay sonrası okunabilir kanıt ister. Sağlık kontrolü ve model ön ısıtma başlığı altında önce model, çalışma zamanı, donanım ve veri katmanı ayrılır; çünkü Üretim LLM Operasyonları Temeli içinde en pahalı hata yanlış katmanı suçlamaktır. O001 Bölüm 2 için iyi not, cevabın güzel görünmesi değil, hangi komutla üretildiğinin iki hafta sonra da anlaşılmasıdır.

Sağlık kontrolü ve model ön ısıtma çalışırken Trendyol LLM Aşure 12B bir vitrin adı değil, sınanacak varsayımdır. Sağlık kontrolü ve model ön ısıtma için Model yanıt vermediyse sebep kalite olmayabilir; etiket, önbellek, şablon veya bağlam sınırı da aynı masadadır. O001-2 notunda model etiketi, istem dili ve çıktı yolu aynı satırda durursa kalite tartışması kişisel beğeniden çıkar. Sağlık kontrolü ve model ön ısıtma Türkçe cevaplarında ekler, özel adlar ve uzun kurum adları bağlamı beklenenden hızlı doldurabilir; bu yüzden kısa kontrol istemini uzun belge denemesinden ayrı tutun.

Sağlık kontrolü ve model ön ısıtma için RTX 4090 24GB tarafında dikkat edilecek şey tek başına hız değildir. Donanım notu olmadan aynı komutun başka makinede neden değiştiğini anlamak zorlaşır. Üretim LLM Operasyonları Temeli Bölüm 2 akışında VRAM dolunca bazen daha küçük model seçmek, aynı modeli daha sert kuantize etmekten daha okunur sonuç verir. O001-2 elektrik ve soğutma notu da buraya girer; karar kaydında tarihli varsayım olarak durması yeterlidir, canlı fiyat iddiasına çevirmeyin.

Sağlık kontrolü ve model ön ısıtma bölümünde TPS karşılaştırması çıpa görevi görür, ama tek başına ürün kararı gibi davranmaz. Ölçüm tek sayı değil; komut, çıktı, varsayım ve kısa yorumdan oluşan küçük bir pakettir. O001 Bölüm 2 denemesinde komut, kısa çıktı ve özet hash aynı klasöre yazılırsa sonraki model değişimi sessizce geçmez. Böyle bir kayıt düzeni solo çalışan kişi için ikinci hafıza, küçük ekip için de ortak tartışma zemini olur.

Sağlık kontrolü ve model ön ısıtma başlığında özel risk şudur: Gerçek veriyle başlamadan önce daha küçük, daha düşük riskli ve tekrar edilebilir bir örnek üretin. Sağlık kontrolü ve model ön ısıtma örneğinde kişisel veri, sağlık, finans, öğrenci ya da dava içeriği gerçek örnek gibi kopyalanmamalıdır; sentetik girdiyle aynı teknik kırılmayı yakalayabiliyorsanız onu kullanın. O001-2 çizgisi hukuki uygunluk kararı vermez, sadece teknik denemeyi daha temiz hale getirir ve uzman incelemesine taşınacak notu düzenler.

O001 Bölüm 2 sonunda beklenen çıktı küçük ama işe yarar: outputs/o001/bolum-2.txt dosyası, "Sağlık kontrolü ve model ön ısıtma" adı ve ilk risk yorumu. Sağlık kontrolü ve model ön ısıtma çıktısı beklenen gibi değilse sırayı bozmayın: önce çalışma zamanı, sonra model etiketi, sonra donanım, en son istem metni. Bu sıra ağır görünmez ama panik anında iyi bir raydır. Bir sonraki adım Bölüm 3 içinde aynı kararı çalışma komutuna bağlar.

Anahtar içgörü: Katman ayrımı kararını model cevabından önce kanıt dosyasıyla görünür yapın.

mkdir -p outputs/o001
printf '%s\n' 'O001 | Sağlık kontrolü ve model ön ısıtma | model=trendyol-llm-asure-12b | donanim=rtx-4090-24gb' > outputs/o001/bolum-2.txt
ollama list >> outputs/o001/bolum-2.txt || printf '%s\n' 'metric=ollama_list_pending' >> outputs/o001/bolum-2.txt

Egzersiz: "Sağlık kontrolü ve model ön ısıtma" komutunu çalıştırın, çıktıyı outputs/o001/bolum-2.txt dosyasına kaydedin ve dosyanın ilk satırına hangi katmanın riskli olduğunu yazın. Süre sınırı: 15 dakika.

Bölüm 3: Log alanlarını sınırlama

Tahmini süre: 45 dakika

Bu bölüm operatör bakışıyla kapasite, geri alma ve olay sonrası okunabilir kanıt ister. Log alanlarını sınırlama başlığı altında önce model, çalışma zamanı, donanım ve veri katmanı ayrılır; çünkü Üretim LLM Operasyonları Temeli içinde en pahalı hata yanlış katmanı suçlamaktır. O001 Bölüm 3 için iyi not, cevabın güzel görünmesi değil, hangi komutla üretildiğinin iki hafta sonra da anlaşılmasıdır.

Log alanlarını sınırlama çalışırken Trendyol LLM Aşure 12B bir vitrin adı değil, sınanacak varsayımdır. Log alanlarını sınırlama için Model yanıt vermediyse sebep kalite olmayabilir; etiket, önbellek, şablon veya bağlam sınırı da aynı masadadır. O001-3 notunda model etiketi, istem dili ve çıktı yolu aynı satırda durursa kalite tartışması kişisel beğeniden çıkar. Log alanlarını sınırlama Türkçe cevaplarında ekler, özel adlar ve uzun kurum adları bağlamı beklenenden hızlı doldurabilir; bu yüzden kısa kontrol istemini uzun belge denemesinden ayrı tutun.

Log alanlarını sınırlama için RTX 4090 24GB tarafında dikkat edilecek şey tek başına hız değildir. Donanım notu olmadan aynı komutun başka makinede neden değiştiğini anlamak zorlaşır. Üretim LLM Operasyonları Temeli Bölüm 3 akışında VRAM dolunca bazen daha küçük model seçmek, aynı modeli daha sert kuantize etmekten daha okunur sonuç verir. O001-3 elektrik ve soğutma notu da buraya girer; karar kaydında tarihli varsayım olarak durması yeterlidir, canlı fiyat iddiasına çevirmeyin.

Log alanlarını sınırlama bölümünde TPS karşılaştırması çıpa görevi görür, ama tek başına ürün kararı gibi davranmaz. Ölçüm tek sayı değil; komut, çıktı, varsayım ve kısa yorumdan oluşan küçük bir pakettir. O001 Bölüm 3 denemesinde komut, kısa çıktı ve özet hash aynı klasöre yazılırsa sonraki model değişimi sessizce geçmez. Böyle bir kayıt düzeni solo çalışan kişi için ikinci hafıza, küçük ekip için de ortak tartışma zemini olur.

Log alanlarını sınırlama başlığında özel risk şudur: Gerçek veriyle başlamadan önce daha küçük, daha düşük riskli ve tekrar edilebilir bir örnek üretin. Log alanlarını sınırlama örneğinde kişisel veri, sağlık, finans, öğrenci ya da dava içeriği gerçek örnek gibi kopyalanmamalıdır; sentetik girdiyle aynı teknik kırılmayı yakalayabiliyorsanız onu kullanın. O001-3 çizgisi hukuki uygunluk kararı vermez, sadece teknik denemeyi daha temiz hale getirir ve uzman incelemesine taşınacak notu düzenler.

O001 Bölüm 3 sonunda beklenen çıktı küçük ama işe yarar: outputs/o001/bolum-3.txt dosyası, "Log alanlarını sınırlama" adı ve ilk risk yorumu. Log alanlarını sınırlama çıktısı beklenen gibi değilse sırayı bozmayın: önce çalışma zamanı, sonra model etiketi, sonra donanım, en son istem metni. Bu sıra ağır görünmez ama panik anında iyi bir raydır. Bir sonraki adım Bölüm 4 içinde aynı kararı çalışma komutuna bağlar.

Anahtar içgörü: Katman ayrımı kararını model cevabından önce kanıt dosyasıyla görünür yapın.

mkdir -p outputs/o001
printf '%s\n' 'O001 | Log alanlarını sınırlama | model=trendyol-llm-asure-12b | donanim=rtx-4090-24gb' > outputs/o001/bolum-3.txt
printf '%s\n' 'metric=redacted_fields_count' 'kontrol=ham_kisisel_veri_yazma' >> outputs/o001/bolum-3.txt

Egzersiz: "Log alanlarını sınırlama" komutunu çalıştırın, çıktıyı outputs/o001/bolum-3.txt dosyasına kaydedin ve dosyanın ilk satırına hangi katmanın riskli olduğunu yazın. Süre sınırı: 15 dakika.

Bölüm 4: Geri alma komutu

Tahmini süre: 45 dakika

Bu bölüm operatör bakışıyla kapasite, geri alma ve olay sonrası okunabilir kanıt ister. Geri alma komutu başlığı altında önce model, çalışma zamanı, donanım ve veri katmanı ayrılır; çünkü Üretim LLM Operasyonları Temeli içinde en pahalı hata yanlış katmanı suçlamaktır. O001 Bölüm 4 için iyi not, cevabın güzel görünmesi değil, hangi komutla üretildiğinin iki hafta sonra da anlaşılmasıdır.

Geri alma komutu çalışırken Trendyol LLM Aşure 12B bir vitrin adı değil, sınanacak varsayımdır. Geri alma komutu için Model yanıt vermediyse sebep kalite olmayabilir; etiket, önbellek, şablon veya bağlam sınırı da aynı masadadır. O001-4 notunda model etiketi, istem dili ve çıktı yolu aynı satırda durursa kalite tartışması kişisel beğeniden çıkar. Geri alma komutu Türkçe cevaplarında ekler, özel adlar ve uzun kurum adları bağlamı beklenenden hızlı doldurabilir; bu yüzden kısa kontrol istemini uzun belge denemesinden ayrı tutun.

Geri alma komutu için RTX 4090 24GB tarafında dikkat edilecek şey tek başına hız değildir. Donanım notu olmadan aynı komutun başka makinede neden değiştiğini anlamak zorlaşır. Üretim LLM Operasyonları Temeli Bölüm 4 akışında VRAM dolunca bazen daha küçük model seçmek, aynı modeli daha sert kuantize etmekten daha okunur sonuç verir. O001-4 elektrik ve soğutma notu da buraya girer; karar kaydında tarihli varsayım olarak durması yeterlidir, canlı fiyat iddiasına çevirmeyin.

Geri alma komutu bölümünde TPS karşılaştırması çıpa görevi görür, ama tek başına ürün kararı gibi davranmaz. Ölçüm tek sayı değil; komut, çıktı, varsayım ve kısa yorumdan oluşan küçük bir pakettir. O001 Bölüm 4 denemesinde komut, kısa çıktı ve özet hash aynı klasöre yazılırsa sonraki model değişimi sessizce geçmez. Böyle bir kayıt düzeni solo çalışan kişi için ikinci hafıza, küçük ekip için de ortak tartışma zemini olur.

Geri alma komutu başlığında özel risk şudur: Gerçek veriyle başlamadan önce daha küçük, daha düşük riskli ve tekrar edilebilir bir örnek üretin. Geri alma komutu örneğinde kişisel veri, sağlık, finans, öğrenci ya da dava içeriği gerçek örnek gibi kopyalanmamalıdır; sentetik girdiyle aynı teknik kırılmayı yakalayabiliyorsanız onu kullanın. O001-4 çizgisi hukuki uygunluk kararı vermez, sadece teknik denemeyi daha temiz hale getirir ve uzman incelemesine taşınacak notu düzenler.

O001 Bölüm 4 sonunda beklenen çıktı küçük ama işe yarar: outputs/o001/bolum-4.txt dosyası, "Geri alma komutu" adı ve ilk risk yorumu. Geri alma komutu çıktısı beklenen gibi değilse sırayı bozmayın: önce çalışma zamanı, sonra model etiketi, sonra donanım, en son istem metni. Bu sıra ağır görünmez ama panik anında iyi bir raydır. Bir sonraki adım Bölüm 5 içinde aynı kararı çalışma komutuna bağlar.

Anahtar içgörü: Katman ayrımı kararını model cevabından önce kanıt dosyasıyla görünür yapın.

mkdir -p outputs/o001
printf '%s\n' 'O001 | Geri alma komutu | model=trendyol-llm-asure-12b | donanim=rtx-4090-24gb' > outputs/o001/bolum-4.txt
sha256sum outputs/o001/bolum-4.txt >> outputs/o001/bolum-4.txt.sha256
printf '%s\n' 'metric=evidence_hash' >> outputs/o001/bolum-4.txt

Egzersiz: "Geri alma komutu" komutunu çalıştırın, çıktıyı outputs/o001/bolum-4.txt dosyasına kaydedin ve dosyanın ilk satırına hangi katmanın riskli olduğunu yazın. Süre sınırı: 15 dakika.

Bölüm 5: Üretim kontrol listesi

Tahmini süre: 45 dakika

Bu bölüm operatör bakışıyla kapasite, geri alma ve olay sonrası okunabilir kanıt ister. Üretim kontrol listesi başlığı altında önce demo başarısı ile üretim işletimi ayrılır; çünkü Üretim LLM Operasyonları Temeli içinde en pahalı hata yanlış katmanı suçlamaktır. O001 Bölüm 5 için iyi not, cevabın güzel görünmesi değil, hangi komutla üretildiğinin iki hafta sonra da anlaşılmasıdır.

Üretim kontrol listesi çalışırken Trendyol LLM Aşure 12B bir vitrin adı değil, sınanacak varsayımdır. Üretim kontrol listesi için Model etiketi değiştiğinde eski loglarla yeni davranışı ayıramıyorsanız üretim notu eksiktir. O001-5 notunda model etiketi, istem dili ve çıktı yolu aynı satırda durursa kalite tartışması kişisel beğeniden çıkar. Üretim kontrol listesi Türkçe cevaplarında ekler, özel adlar ve uzun kurum adları bağlamı beklenenden hızlı doldurabilir; bu yüzden kısa kontrol istemini uzun belge denemesinden ayrı tutun.

Üretim kontrol listesi için RTX 4090 24GB tarafında dikkat edilecek şey tek başına hız değildir. Kapasite hesabında tek iyi koşuyu değil, kuyruk biriktiği andaki tepe belleği okuyun. Üretim LLM Operasyonları Temeli Bölüm 5 akışında VRAM dolunca bazen daha küçük model seçmek, aynı modeli daha sert kuantize etmekten daha okunur sonuç verir. O001-5 elektrik ve soğutma notu da buraya girer; karar kaydında tarihli varsayım olarak durması yeterlidir, canlı fiyat iddiasına çevirmeyin.

Üretim kontrol listesi bölümünde TPS karşılaştırması çıpa görevi görür, ama tek başına ürün kararı gibi davranmaz. Ölçümde gecikme bütçesi, hata oranı ve geri alma işareti birlikte görünmelidir. O001 Bölüm 5 denemesinde komut, kısa çıktı ve özet hash aynı klasöre yazılırsa sonraki model değişimi sessizce geçmez. Böyle bir kayıt düzeni solo çalışan kişi için ikinci hafıza, küçük ekip için de ortak tartışma zemini olur.

Üretim kontrol listesi başlığında özel risk şudur: Üretim bölümünde ham istemi kalıcı loga taşımadan önce maskeleme sonucunu ayrıca kontrol edin. Üretim kontrol listesi örneğinde kişisel veri, sağlık, finans, öğrenci ya da dava içeriği gerçek örnek gibi kopyalanmamalıdır; sentetik girdiyle aynı teknik kırılmayı yakalayabiliyorsanız onu kullanın. O001-5 çizgisi hukuki uygunluk kararı vermez, sadece teknik denemeyi daha temiz hale getirir ve uzman incelemesine taşınacak notu düzenler.

O001 Bölüm 5 sonunda beklenen çıktı küçük ama işe yarar: outputs/o001/bolum-5.txt dosyası, "Üretim kontrol listesi" adı ve ilk risk yorumu. Üretim kontrol listesi çıktısı beklenen gibi değilse sırayı bozmayın: önce çalışma zamanı, sonra model etiketi, sonra donanım, en son istem metni. Bu sıra ağır görünmez ama panik anında iyi bir raydır.

Anahtar içgörü: İşletim izi kararını model cevabından önce kanıt dosyasıyla görünür yapın.

mkdir -p outputs/o001
printf '%s\n' 'O001 | Üretim kontrol listesi | model=trendyol-llm-asure-12b | donanim=rtx-4090-24gb' > outputs/o001/bolum-5.txt
printf '%s\n' 'metric=p95_latency_ms' 'kontrol=rollback_tag_noted' >> outputs/o001/bolum-5.txt

Egzersiz: "Üretim kontrol listesi" komutunu çalıştırın, çıktıyı outputs/o001/bolum-5.txt dosyasına kaydedin ve dosyanın ilk satırına hangi katmanın riskli olduğunu yazın. Süre sınırı: 15 dakika.