DeepSeek-r1 olağanüstü performansı nedeniyle küresel toplumda hararetli bir tartışmaya neden oldu. Bununla birlikte, kullanıcı sayısı arttıkça ve bazı bilinmeyen alanlardaki siber saldırılarla birlikte, resmi hizmetler genellikle bunalmış durumda. Bugün, size sıfır maliyetle özel, hiç kapanmayan bir yapay zeka asistanının nasıl oluşturulacağını öğreteceğim.
Neden özel dağıtımı seçmelisiniz? Özel dağıtımın faydaları nelerdir? Hizmet istikrarına ek olarak, özel dağıtım bize veri güvenliği üzerinde tam kontrol sağlar ve parametreleri serbestçe ayarlamamıza ve işlevleri gerektiği gibi genişletmemize olanak tanır. Şu anda Tencent Cloud tarafından sağlanan ücretsiz GPU kaynakları (RTX 4080 seviyesine eşdeğer, ayda 10.000 dakika, 16G grafik belleği bulut hizmeti) fazlasıyla yeterli ve donanıma yatırım yapmak zorunda kalmadan sorunsuz bir yapay zeka deneyiminin keyfini çıkarmamızı sağlıyor. Ayrıntılı dağıtım adımları aşağıdaki gibidir:
Adım 1: Hazırlık çalışmaları
Ziyaret etmek Tencent Bulut Stüdyosu
kayıt ve gerçek isim doğrulamasını tamamlamak için. Bu adım çok önemlidir, çünkü yalnızca gerçek isimli kullanıcılar ücretsiz GPU kaynaklarından faydalanabilir.
Diğer bulut hizmeti sağlayıcıları tarafından sağlanan kaynakları da seçebilirsiniz. Bu makalede örnek olarak Tencent Cloud kullanılmaktadır. Ücretsiz GPU kaynakları artık mevcut
Adım 2: Bir çalışma alanı oluşturun
Aramak için "Ollama" öğesini seçin ve bir çalışma alanı oluşturmak için temel türü (ücretsiz sürüm) seçin. Başlatma işleminin tamamlanması için 2-5 dakika bekleyin.
Adım 3: Model dağıtımı
Çalışma alanında yeni bir terminal oluşturun ve aşağıdaki komutları sırayla yürütün:
Not: Ağ durumuna bağlı olarak modelin indirilmesi yaklaşık 10-15 dakika sürer. İndirme işlemi tamamlandıktan sonra, terminalde AI ile doğrudan konuşabilirsiniz.
Adım 4: Intranet Penetrasyonunu Yapılandırma
Diğer cihazların yapay zeka asistanınıza erişmesine izin vermek için intranet penetrasyonunu yapılandırmanız gerekir:
- Ollama çalışan portunu kontrol edin
- İntranet penetrasyonunu başlatın
Not: 6399 örnek bir bağlantı noktası numarasıdır, lütfen önceki adımın sonucuna göre değiştirin
Yürütmeden sonra, formatta bir genel ağ erişim adresi alacaksınız:
Adım 5: Otomatik yeniden başlatmayı ayarlayın (isteğe bağlı ancak önerilir)
İstikrarlı hizmet çalışmasını sürdürmek için otomatik yeniden başlatma komut dosyası eklenmesi önerilir:
Adım 6: Yapılandırma
CherryStudio örnek olarak kullanılmıştır. Detaylı bir giriş için,
- CherryStudio'yu indirin ve yükleyin
- Ayarlara yeni bir model yapılandırması ekleyin:
- Model adı: deepseek-r1:14b
- Sunucu adresi: gradio genel ağ adresinizi girin
- API anahtarı: boş bırakın
Performans optimizasyonu ipuçları
Yapay zeka asistanınızın daha hızlı yanıt vermesini mi istiyorsunuz? Bu optimizasyon parametrelerini deneyin:
Sıkça sorulan sorular
Bir bağlantı noktasının dolu olduğunu görürseniz:
Model indirme kesintiye uğradı:
Yetersiz bellek
İpuçları
- Ücretsiz GPU örnekleri her sabah saat 2'de otomatik olarak uykuya geçecektir. Bu zaman diliminden kaçınmanız önerilir
- İntranet penetrasyon adresinin süresi 72 saat sonra dolacaktır. Düzenli olarak kontrol etmeyi unutmayın
- Hız ve bütünlüğü dengelemek için -max-tokens parametresini ayarlayarak yanıtın uzunluğunu kontrol edebilirsiniz
- Yanıtın yavaşladığını fark ederseniz, hizmeti yeniden başlatmayı deneyebilirsiniz
Bu noktada, kendi yapay zeka asistanınız kullanıma hazırdır. Sadece istikrarlı ve güvenilir değil, aynı zamanda tamamen sizin kontrolünüz altında. İster günlük yazı yazma, ister programlama veya veri analizi olsun, sizi destekleyecek yetenekli bir asistanınız olacak.
Erişim adresinizi güvende tutmayı unutmayın ve dağıtım süreciyle ilgili herhangi bir sorunuz varsa, lütfen bunları yorumlar bölümünde tartışmaktan çekinmeyin. Hepinize yapay zekanın yardımıyla yeni zirvelere ulaşabileceğiniz yeni bir yıl diliyorum!
