Ollama Kurulumu(Windows): Yerel AI Modelini Çalıştırmanın Kolay Yolu

Herkese selam, Bugün, büyük dil modellerini (LLM) kendi bilgisayarınızda, yani local/yerel ortamda çalıştırmanızı sağlayan bir araç olan Ollama ’yı Windows bilgisayarınıza nasıl kuracağınızı adım adım anlatacağım. Bu işlemleri OpenAI’yın yeni “gpt-oss“ modeli üzerinden anlatacağım. Böylece bu yeni modelide denemiş olacağız.

Not: Yazı x(twitter) makalelerimden alıntıdır. Tamamını göremiyorsanız buradan da okuyabilirsiniz: https://x.com/Semihcelikol/status/1953061389645324595

Daha önce herhangi bir şekilde Local ortamıma LLM kurmamıştım. Artık zamanı geldi geçiyor, bir an önce incelemeliyim diye sürekli düşünüyordum. Nihayet bugün OpenAI’yın “gpt-oss” modelini duyurmasından sonra denemeye karar verdim.

Ollama, güçlü açık kaynaklı modelleri kolayca çalıştırmanıza olanak tanır ve en güzel yanı, tüm işlemlerin kendi bilgisayarınızda gerçekleşmesiyle veri gizliliğinizi korumanızdır. Tabii Ollama dışında LM Studio, GPT4All, KoboldCpp gibi farklı alternatiflerde mevcut. Benim tericihim Ollama’dan yana oldu.

Ollama’yı sorunsuz çalıştırmak için minimum olarak aşağıdaki sistem verilmiş:

İşletim Sistemi: Windows 10 (64-bit) veya Windows 11
İşlemci: Intel veya AMD x86–64 CPU
Depolama: En az 4 GB boş alan (modeller için ek alan)
RAM: Minimum…