DeepSeek-r1 a provocat discuții aprinse în comunitatea globală datorită performanțelor sale remarcabile. Cu toate acestea, pe măsură ce numărul de utilizatori crește și cu atacuri cibernetice în unele zone necunoscute, serviciile oficiale sunt adesea copleșite. Astăzi, vă voi învăța cum să construiți un asistent AI dedicat, care nu se oprește niciodată, la costuri zero.
De ce să alegeți implementarea privată? Care sunt avantajele implementării private? În plus față de stabilitatea serviciului, implementarea privată ne oferă, de asemenea, un control complet asupra securității datelor și ne permite să ajustăm liber parametrii și să extindem funcțiile după cum este necesar. Resursele GPU gratuite furnizate în prezent de Tencent Cloud (echivalente cu nivelul RTX 4080, 10 000 de minute pe lună, 16G memorie grafică în cloud service) sunt mai mult decât suficiente, permițându-ne să ne bucurăm de o experiență AI fără probleme fără a fi nevoie să investim în hardware. Etapele detaliate ale implementării sunt următoarele:
Etapa 1: Lucrări pregătitoare
Vizită Tencent Cloud Studio
pentru a finaliza înregistrarea și verificarea numelui real. Acest pas este crucial, deoarece numai utilizatorii cu nume real pot primi resurse GPU gratuite.
De asemenea, puteți alege resurse furnizate de alți furnizori de servicii cloud. Acest articol folosește Tencent Cloud ca exemplu. Resursele GPU gratuite sunt acum disponibile
Pasul 2: Crearea unui spațiu de lucru
Căutare pentru "Ollama" în interfața de selecție a șablonului spațiului de lucru și selectați tipul de bază (versiunea gratuită) pentru a crea un spațiu de lucru. Așteptați 2-5 minute pentru finalizarea inițializării.
Etapa 3: Implementarea modelului
Creați un nou terminal în spațiul de lucru și executați următoarele comenzi în succesiune:
Notă: Este nevoie de aproximativ 10-15 minute pentru a descărca modelul, în funcție de starea rețelei. După ce descărcarea este completă, puteți vorbi direct cu AI în terminal.
Pasul 4: Configurarea penetrării intranetului
Pentru a permite altor dispozitive să acceseze asistentul dvs. AI, trebuie să configurați penetrarea intranetului:
- Verificați portul de funcționare Ollama
- Începeți penetrarea intranetului
Notă: 6399 este un exemplu de număr de port, vă rugăm să îl înlocuiți în funcție de rezultatul pasului anterior
După execuție, veți obține o adresă de acces la rețeaua publică în formatul:
Pasul 5: Setați repornirea automată (opțional, dar recomandat)
Pentru a menține funcționarea stabilă a serviciului, este recomandat să adăugați un script de repornire automată:
Etapa 6: Configurare
CherryStudio este folosit ca exemplu. Pentru o introducere detaliată,
- Descărcați și instalați CherryStudio
- Adăugați o nouă configurație de model în setări:
- Nume model: deepseek-r1:14b
- Adresa serverului: introduceți adresa rețelei publice gradio
- Cheie API: lăsați gol
Sfaturi pentru optimizarea performanței
Doriți ca asistentul dvs. AI să răspundă mai repede? Încercați acești parametri de optimizare:
Întrebări frecvente
Dacă vă confruntați cu un port ocupat:
Descărcarea modelului a fost întreruptă:
Memorie insuficientă
Sfaturi
- Instanțele GPU gratuite vor adormi automat la ora 2:00 în fiecare dimineață. Este recomandat să evitați această perioadă de timp
- Adresa de penetrare intranet va expira după 72 de ore. Nu uitați să o verificați periodic
- Puteți controla lungimea răspunsului prin ajustarea parametrului -max-tokens pentru a echilibra viteza și exhaustivitatea
- Dacă observați că răspunsul încetinește, puteți încerca să reporniți serviciul
În acest moment, propriul dvs. asistent AI este gata de utilizare. Acesta nu este doar stabil și fiabil, ci și complet sub controlul dvs. Fie că este vorba de scrierea zilnică, programarea sau analiza datelor, veți avea un asistent capabil să vă sprijine.
Nu uitați să vă păstrați adresa de acces în siguranță, iar dacă aveți întrebări cu privire la procesul de implementare, nu ezitați să le discutați în secțiunea de comentarii. Vă doresc tuturor un an nou în care să atingeți noi înălțimi cu ajutorul inteligenței artificiale!
