İlk yerel modelini kendi bilgisayarında çalıştır.
Ollama ile küçük bir modeli kur, Türkçe yanıt al ve çalıştığını kontrol et. Bu yerel denemede istemi bulut API’ye göndermen gerekmez. Ağ, eklenti ve kayıt ayarlarını ayrıca kontrol et.
İlk deneme: küçük model, gerçek yanıt
İşletim sistemine uygun kurulum adımlarını tamamla: Windows, macOS veya Linux. Ardından aynı terminalde bu komutları çalıştır:
ollama pull llama3.2:3b
ollama run llama3.2:3b "Türkçe tek cümleyle merhaba de."
ollama psBeklenen sonuç boş olmayan bir model yanıtıdır. Yanıtın Türkçe ve anlamlı olduğunu oku. ollama ps modelin yüklenmesini ve CPU/GPU kullanımını gösterir; hız ya da kalite ölçümü değildir. Bu rehber hazırlanırken fiziksel kurulum testi yapılmadı; adımlar resmî belgelerden kontrol edildi.
Bellek sınırını modelden önce kontrol et
Llama 3.2 3B için 8GB RAM ve 10GB boş disk küçük bir başlangıç senaryosudur; diğer uygulamalara da bellek bırak. 8B sınıfında 16GB RAM daha fazla pay sağlar. Türkçe kalitesi kendi örneklerinle kontrol edilmelidir.
Ollama’nın Llama 3.3 70B Q4_K_M paketi tek başına yaklaşık 43GB’tır. Tek 24GB GPU’ya bütünüyle sığmaz. 48GB veya daha fazla kullanılabilir bellek ve bağlam payı planla; CPU/GPU arasında bölünmüş yükleme için 64GB+ RAM gerekebilir ve hız düşebilir. Apple birleşik belleğini işletim sistemiyle paylaşır.
30 saniyelik mini kontrol
Dört kısa soru. Cevabın çoğu evet ise bu rehber tam sana göre.
OpenAI API faturalarından kurtulmak ister misin?
Müşteri verileri buluta gitmesin mi diyorsun?
Sadece Türkçe çıktı yeterli mi?
Bilgisayarın ≥16GB RAM veya MacBook M-serisi var mı?
Sıfırdan ilk komutuna kadar.
Kurulum, model indirme ve gerçek yanıt doğrulamasını sırayla tamamlayın.
Ollama, modelleri tek satırla çalıştıran açık kaynak motor. macOS için aşağıdaki adımları sırayla uygula. Linux'ta systemd yoksa ayrı terminalde ollama serve başlat; çalışan servisin yanında ikinci sunucu açma.
open https://ollama.com/download/macollama --version
curl -fS http://127.0.0.1:11434/api/versionİndirme tamamlandı mı?
Terminalde ollama --version yaz, sürüm numarası görünüyorsa komut erişilebilir. API yanıtını ve modelin ilk gerçek yanıtını da doğrula.
Hangi iş için ne kazandırıyor?
Dört gerçek kullanım. Prompt'lar kopyalanabilir, hemen denenebilir.
Müvekkil verisi için yerel deneme akışı
Bu sözleşmenin (PDF'den) fesih, gizlilik ve cezai şart bölümlerini madde madde özetle. Risk seviyelerini düşük / orta / yüksek olarak işaretle. Tablo formatında ver.
- Sözleşme özetleme: 1 saat → 1 dakika
- Müvekkil verisi → bulut sohbet servisine göndermeden denenir
- KVKK + meslek sırrı riski azalır
API faturasını azaltan yerel akış
Aşağıdaki ürün başlığı için Trendyol uyumlu açıklama yaz: 'Kırmızı seramik bardak, 320ml'. SEO için 3 anahtar kelime ekle, 150-200 karakter uzunluğunda ve mutfak temalı bir his ver.
- 1000 ürün açıklaması = 1 saat içinde
- Trendyol-LLM Türkçe satış diline hakim
- API faturası, canlı kullanım ve yerel sepetle karşılaştırılır
Abonelik kararını canlı fiyatla karşılaştır
Bir LinkedIn paylaşımı için zincirleme prompt: 1) Konu önerisi (3 başlık). 2) Seçilen başlık için kanca + 3 madde + soru ile biten 1100 karakter post. 3) 5 hashtag.
- İçerik üretiminde sınırsız iterasyon
- Müşteri NDA verisi yerel kalır
- Çevrimdışı çalış: uçak / kafe / VPN gerek yok
Müşteriye sunulan KVKK odaklı rapor
Müşterimiz için aylık SEO performans raporu hazırla. Aşağıdaki CSV'den (Google Search Console export) trafik özetini çıkar, top 5 anahtar kelime için artış/azalış yorumla, önümüzdeki ay için 3 aksiyon öner.
- Yerel AI = KVKK riskini azaltan mimari pitch
- Müşteri kazanma argümanı + rekabet avantajı
- Aynı donanımla 5-10 müşteri eşzamanlı
Hâlâ kafanda soru mu var?
Ollama'ya başlarken sorulan ilk 7 soru, kısa cevaplarla.
Benchmark sonucunu 3 yolla paylaş
CLI gurusu musun, web'ci misin, GitHub'çı mısın? Senin için en kolay yöntem burada.
Web Form
En kolayı. Tarayıcıda 3 alan doldur, gönder.
- 1Model sayfasına git, "Bu modeli değerlendir" butonuna tıkla
- 2Skor, donanım, boyut seç (3 alan)
- 3"Ölçümü Gönder", 20 saniyede bitti
CLI Aracı
Terminal'de interaktif sihirbaz. Sistemini otomatik algılar.
- 1
npm run submitile başlat - 2Soruları adım adım cevapla (otomatik algılama)
- 3Doğrula → gönder → sonuç URL'si al
npm run submit
GitHub
PR aç veya issue template'ten gönder. Doğrudan repo'ya yaz.
- 1YerelAI benchmark reposuna git
- 2Formu doldur veya raw log ile founding listesine katıl
- 3Editör review'inden sonra yayında
Hangi yöntem sana göre?
Sıkıştın mı?
Topluluk kanalı moderasyon, veri politikası ve katkı kuralları hazır olduğunda sırayla açılacak. Şimdi founding listesine katıl, davet sırası kaçmasın.
Küçük bir denemeyle başla. Aylık 0 TL.
Devamını keşfet, hangi model senin için, hangi donanım yeter, hangi prompt hangi iş için.