DeepSeek-r1 kiemelkedő teljesítménye miatt heves vitát váltott ki a globális közösségben. A felhasználók számának ugrásszerű növekedésével és az ismeretlen területeken elkövetett kibertámadásokkal azonban a hivatalos szolgáltatások gyakran túlterheltek. Ma megtanítom neked, hogyan építhetsz egy dedikált, soha le nem állítható AI asszisztenst nulla költséggel.
Miért válassza a privát telepítést? Milyen előnyei vannak a magán telepítésnek? A szolgáltatás stabilitása mellett a privát telepítés teljes ellenőrzést biztosít az adatbiztonság felett, és lehetővé teszi számunkra, hogy szükség szerint szabadon módosítsuk a paramétereket és bővítsük a funkciókat. A Tencent Cloud által jelenleg biztosított ingyenes GPU-erőforrások (RTX 4080 szintnek megfelelő, havi 10 000 perc, 16 G grafikus memória felhőszolgáltatás) bőven elegendőek, így hardveres beruházás nélkül élvezhetjük a zökkenőmentes AI-élményt. A részletes telepítési lépések a következők:
1. lépés: Előkészítő munka
Látogasson el a oldalra. Tencent Cloud Studio
a regisztráció és a valódi név ellenőrzése befejezéséhez. Ez a lépés kulcsfontosságú, mivel csak a valós nevű felhasználók kaphatnak ingyenes GPU-erőforrásokat.
Más felhőszolgáltatók által biztosított erőforrásokat is választhat. Ez a cikk a Tencent Cloudot használja példaként. Ingyenes GPU erőforrások már elérhetők
2. lépés: Munkaterület létrehozása
Keresés "Ollama" a munkaterület sablon kiválasztó felületen, és válassza az alaptípust (ingyenes verzió) egy munkaterület létrehozásához. Várjon 2-5 percet az inicializálás befejezéséig.
3. lépés: A modell telepítése
Hozzon létre egy új terminált a munkaterületen, és hajtsa végre egymás után a következő parancsokat:
Megjegyzés: A modell letöltése a hálózat állapotától függően körülbelül 10-15 percet vesz igénybe. A letöltés befejezése után közvetlenül beszélhet az AI-val a terminálon.
4. lépés: Intranet behatolás konfigurálása
Ahhoz, hogy más eszközök is hozzáférhessenek a mesterséges intelligencia asszisztenséhez, konfigurálnia kell az intranetes behatolást:
- Ellenőrizze az Ollama futó portját
- Intranet behatolás megkezdése
Megjegyzés: A 6399 egy példa port száma, kérjük, cserélje ki az előző lépés eredményének megfelelően.
A végrehajtás után egy nyilvános hálózati hozzáférési címet kap a következő formátumban:
5. lépés: Automatikus újraindítás beállítása (nem kötelező, de ajánlott)
A szolgáltatás stabil működésének fenntartása érdekében ajánlott egy automatikus újraindítási szkript hozzáadása:
6. lépés: Konfiguráció
Példaként a CherryStudio-t használjuk. Részletes bevezetésért,
- A CherryStudio letöltése és telepítése
- Adjon hozzá egy új modellkonfigurációt a beállítások között:
- Modell neve: deepseek-r1:14b
- Kiszolgáló címe: adja meg a gradio nyilvános hálózati címét.
- API-kulcs: üresen hagyni
Teljesítmény optimalizálási tippek
Szeretné, ha az AI asszisztens gyorsabban reagálna? Próbálja ki ezeket az optimalizálási paramétereket:
Gyakran ismételt kérdések
Ha azt tapasztalja, hogy egy port foglalt:
A modell letöltése megszakadt:
Elégtelen memória
Tippek
- Az ingyenes GPU-példányok minden reggel 2 órakor automatikusan elalszanak. Ajánlott elkerülni ezt az időszakot
- Az intranetes behatolási cím 72 óra múlva lejár. Ne feledje, hogy rendszeresen ellenőrizze
- A válasz hosszát a -max-tokens paraméter beállításával szabályozhatja a sebesség és a teljesség egyensúlyának megteremtése érdekében.
- Ha úgy találja, hogy a válasz lassul, próbálja meg újraindítani a szolgáltatást.
Ezen a ponton a saját mesterséges intelligencia asszisztense már készen áll. Nemcsak stabil és megbízható, hanem teljesen az Ön irányítása alatt is áll. Legyen szó akár a mindennapi írásról, programozásról vagy adatelemzésről, egy hozzáértő asszisztens fogja támogatni Önt.
Ne feledje, hogy a hozzáférési címét tartsa biztonságban, és ha bármilyen kérdése van a telepítési folyamattal kapcsolatban, nyugodtan megvitathatja a hozzászólások között. Mindenkinek olyan új évet kívánok, amelyben az AI segítségével új magasságokba juthat!
