English
Ollama sunucu: kendi dil modelinizi çalıştırın
Ollama, açık kaynak büyük dil modellerini (LLM) tek komutla indirip çalıştırmanızı sağlayan bir araçtır. Yüksek RAM’li NVMe bulut sunucunuzda Ollama’yı kurun; modellerinize API veya Open WebUI arayüzüyle ekibinizin her yerden erişmesini sağlayın.
- 16 GB – 128 GB RAM
- All-Flash NVMe, hızlı model yükleme
- OpenAI uyumlu API
- Open WebUI ile sohbet arayüzü
- Veri Türkiye’de kalır
- Sabit aylık ücret
- İstanbul Tier IIIMARS veri merkezi
- Ücretsiz DDoS korumasıLayer 3-4, 2,8 Tb/s
- Haftalık yedekÜcretsiz, otomatik
- 7/24 Türkçe destekTelefon · talep · canlı
Ollama için önerilen bulut sunucular
Model dosyası RAM’e yüklenir. Kullanacağınız modelin boyutunun en az 1,5–2 katı RAM öneririz.
- İşlemci4 çekirdek · Xeon Platinum 8173M
- RAM16 GB DDR4
- Disk200 GB All-Flash NVMe
- İşletim sistemiWindows Server veya Linux
- İşlemci6 çekirdek · Xeon Platinum 8173M
- RAM24 GB DDR4
- Disk300 GB All-Flash NVMe
- İşletim sistemiWindows Server veya Linux
- İşlemci10 çekirdek · Xeon Platinum 8173M
- RAM32 GB DDR4
- Disk500 GB All-Flash NVMe
- İşletim sistemiWindows Server veya Linux
- İşlemci16 çekirdek · Xeon Platinum 8173M
- RAM64 GB DDR4
- Disk1000 GB All-Flash NVMe
- İşletim sistemiWindows Server veya Linux
*Başlangıç fiyatı 12 aylık alımdaki aylık tutardır. Fiyatlar sipariş sistemimizden otomatik güncellenir; aylık, 3, 6 ve 12 aylık ödeme seçenekleri vardır. Sunucularımızda GPU bulunmuyor; Ollama modelleri CPU üzerinde çalıştırır.
Ollama nedir, neden kendi sunucunuzda?
Ollama; Llama, Qwen, Gemma, Mistral, Phi ve DeepSeek gibi açık modelleri ollama run model_adı komutuyla indirip çalıştıran, açık kaynaklı bir model çalıştırıcısıdır. Modelleri kendi bilgisayarınızda deneyebilirsiniz; ancak ekip olarak kullanmak, 7/24 erişmek ve uygulamalarınıza bağlamak için sürekli açık bir sunucu gerekir.
Sunucuda çalışan Ollama, OpenAI uyumlu bir API sunar. Böylece OpenAI API’sini destekleyen pek çok uygulamayı ve kütüphaneyi küçük bir ayarla kendi modelinize yönlendirebilirsiniz. Gönderdiğiniz istemler ve belgeler sunucunuzdan çıkmaz.
Kurulum özeti
- Ubuntu LTS kurulu bulut sunucunuza SSH ile bağlanın.
- Resmî kurulum betiğiyle Ollama’yı yükleyin:
curl -fsSL https://ollama.com/install.sh | sh - İlk modeli indirin:
ollama pull llama3.1:8b - Arayüz için Docker ile Open WebUI’yi kurun ve ters vekil (Nginx) arkasında HTTPS ile yayınlayın.
Güvenlik notu: Ollama API’si varsayılan olarak kimlik doğrulama içermez. 11434 portunu internete doğrudan açmayın; erişimi ters vekil, parola veya VPN ile sınırlandırın.
Popüler modeller ve RAM ihtiyacı
4-bit nicemlenmiş sürümler için yaklaşık değerler. Uzun bağlam ve eş zamanlı istekler daha fazla RAM gerektirir.
| Model | Boyut (4-bit) | Önerilen RAM | Öne çıktığı iş |
|---|---|---|---|
| gemma3:4b | ≈3 GB | 8 GB+ | Hızlı yanıt, sınıflandırma |
| llama3.1:8b | ≈5 GB | 16 GB | Genel asistan, özetleme |
| qwen2.5:7b | ≈5 GB | 16 GB | Çok dilli metin, kod |
| qwen2.5:14b | ≈9 GB | 32 GB | Daha tutarlı uzun yanıtlar |
| deepseek-r1:14b | ≈9 GB | 32 GB | Adım adım akıl yürütme |
| gemma3:27b | ≈17 GB | 64 GB | Yüksek kalite, yavaş yanıt |
Model boyutları Ollama kütüphanesindeki varsayılan etiketlere göredir ve sürümlerle değişebilir.
Ollama sunucusuyla neler yapılır?
Şirket içi ChatGPT
Open WebUI ile kullanıcı hesapları, sohbet geçmişi ve belge yükleme.
RAG bilgi tabanı
Belgelerinizi gömme (embedding) modelleriyle vektörleştirip arayın.
Kod asistanı
Geliştirme ekibiniz için yerel kod tamamlama ve inceleme.
Çeviri ve özet
Uzun metinleri toplu olarak özetleyin veya çevirin.
Model denemeleri
Farklı modelleri aynı sunucuda karşılaştırın, ihtiyacınıza en uygununu seçin.
Merak edilenler
Ollama ücretsiz mi?
Ollama açık kaynaklıdır ve ücretsizdir. Çalıştırdığınız modellerin her birinin kendi lisansı vardır; ticari kullanımdan önce model lisansını kontrol edin.
GPU olmadan Ollama çalışır mı?
Evet. Ollama modelleri CPU üzerinde de çalıştırır. Küçük ve orta boyutlu nicemlenmiş modeller güçlü işlemci ve yeterli RAM ile kullanılabilir hızdadır; büyük modellerde yanıt süresi uzar.
Hangi paketi seçmeliyim?
8B’ye kadar modeller için 16 GB RAM’li CLD-9, 14B modeller için 32 GB RAM’li CLD-12, 27B–32B modeller için 64 GB ve üzeri RAM’li paketleri öneririz.
Ollama’yı internete açmak güvenli mi?
API varsayılan olarak kimlik doğrulama içermez. Portu doğrudan açmak yerine HTTPS’li ters vekil, parola koruması veya VPN kullanın.
DeepSeek modelini çalıştırabilir miyim?
DeepSeek-R1’in 7B, 8B, 14B gibi distill sürümlerini çalıştırabilirsiniz. Tam boyutlu modeller yüzlerce GB bellek gerektirir ve CPU sunucuda pratik değildir.
Uygulamamı Ollama’ya nasıl bağlarım?
Ollama, OpenAI uyumlu bir API sunar. Uygulamanızdaki API adresini sunucunuza, model adını Ollama’daki modelinize yönlendirmeniz yeterlidir.
Diğer sunucu çözümleri
Kendi LLM sunucunuzu bugün başlatın
Model seçimi ve kaynak planlamasında yardım için bize yazın.