Local AI Kurulum Rehberi: Kendi Bilgisayarında AI Çalıştır!​

Neden Local AI?​

• Tam gizlilik: Verileriniz bilgisayarınızdan çıkmaz
• Sınırsız kullanım: Aylık limit yok
• İnternet bağımsızlığı: Offline çalışma
• Ücretsiz: Tek seferlik kurulum
• Özelleştirilebilir: Kendi ihtiyacınıza göre ayarlama

Sistem Gereksinimleri​

En Popüler Local AI Araçları​

1. Ollama (En Kolay)​

# Windows/Mac/Linux
1. ollama.com'dan indir
2. Kur ve çalıştır
3. Terminal: ollama pull llama2
4. Terminal: ollama run llama2

• Tek tıkla kurulum
• 50+ hazır model
• Otomatik güncelleme
• Web arayüzü

2. LM Studio (Görsel Arayüz)​

• Kullanıcı dostu arayüz
• Model karşılaştırma
• Chat geçmişi
• API desteği

1. lmstudio.ai'den indir
2. Kurulumu tamamla
3. Model seç ve indir
4. Chat'e başla!

3. Text Generation WebUI​

• Maksimum özelleştirme
• Gelişmiş parametreler
• Plugin desteği
• Model fine-tuning

Önerilen AI Modelleri​

Başlangıç Seviyesi​

• Boyut: 4GB RAM
• Hız: Orta
• Kalite: İyi
• Kullanım: Genel sohbet, basit görevler

• Boyut: 4GB RAM
• Hız: Hızlı
• Kalite: Çok iyi
• Kullanım: Kod yazma, analiz

İleri Seviye​

• Boyut: 8GB RAM
• Hız: Orta-yavaş
• Kalite: Çok iyi
• Kullanım: Karmaşık görevler

• Boyut: 20GB RAM
• Hız: Yavaş
• Kalite: Mükemmel
• Kullanım: Profesyonel kod yazma

Adım Adım Kurulum​

Yöntem 1: Ollama (Önerilen)​

1. Bu bağlantı ziyaretçiler için gizlenmiştir. Görmek için lütfen giriş yapın veya üye olun.
   adresine git
2. İşletim sisteminize göre indir
3. Kurulumu tamamla
4. Terminal/Command Prompt aç
5. ollama pull llama2 yaz
6. ollama run llama2 ile başlat

# Model listesi
ollama list

# Model indirme
ollama pull codellama
ollama pull mistral

# Model çalıştırma
ollama run llama2
ollama run mistral

# Model silme 
ollama rm model_name

# Servis başlatma
ollama serve

Yöntem 2: LM Studio​

1. Bu bağlantı ziyaretçiler için gizlenmiştir. Görmek için lütfen giriş yapın veya üye olun.
   'den indir
2. Uygulamayı aç
3. "Discover" sekmesinden model seç
4. Download'a tıkla (4-20GB sürebilir)
5. "Chat" sekmesine geç
6. Modeli yükle ve sohbete başla

Performans Optimizasyonu​

GPU Hızlandırma​

# CUDA kurulumu gerekli
# Ollama otomatik GPU kullanır
# LM Studio'da GPU acceleration açın

# ROCm kurulumu
# Linux'ta daha iyi destek
# Windows'ta sınırlı

Bellek Yönetimi​

• Swap artırın: Yetersiz RAM'de yardımcı
• Gereksiz programları kapatın
• Model boyutunu RAM'e göre seçin
• Batch size'ı düşürün

Kullanım İpuçları​

Prompt Optimizasyonu​

• Açık ve spesifik olun
• Örnekler verin
• Adım adım talep edin
• Bağlam sağlayın

Kötü: "Kod yaz"
İyi: "Python'da liste elemanlarını büyükten küçüğe sıralayan ve ilk 5'ini döndüren fonksiyon yaz. Örnek girdi ve çıktı da ver."

Genişletmek için tıkla ...

Model Seçimi​

• Genel kullanım: Llama2 7B
• Kod yazma: Code Llama, Mistral
• Yaratıcı yazma: Llama2 13B+
• Hızlı cevap: Mistral 7B

Yaygın Sorunlar ve Çözümler​

Güvenlik ve Gizlilik​

• Veriler local kalır
• İnternet bağlantısı gerekmiyor
• Şirket sunucularında kayıt yok
• Sansür yok

• Model indirirken güvenilir kaynak kullanın
• Düzenli güvenlik güncellemesi yapın
• Önemli verileri yedekleyin

Performans Karşılaştırması​

Model	RAM	Hız	Kalite	Kullanım Alanı
Llama2 7B	4GB			Genel amaçlı
Mistral 7B	4GB			Kod, analiz
Llama2 13B	8GB			Karmaşık görevler
Code Llama 34B	20GB			Profesyonel kod

Gelişmiş Kullanım​

API Kullanımı​

# REST API
curl http://localhost:11434/api/generate -d '{
  "model": "llama2",
  "prompt": "Merhaba nasılsın?"
}'

# Python ile
import requests
response = requests.post('http://localhost:11434/api/generate',
    json={'model': 'llama2', 'prompt': 'Hello'})

Custom Model Training​

• Kendi verilerinizle fine-tuning
• Domain-specific model oluşturma
• LoRA adapterleri kullanma
• PEFT teknikleri

Öneriler ve Sonuç​

Local AI dünyasına hoş geldiniz! ​