DeepSeek-r1 έχει προκαλέσει έντονη συζήτηση στην παγκόσμια κοινότητα λόγω των εξαιρετικών επιδόσεών του. Ωστόσο, καθώς ο αριθμός των χρηστών αυξάνεται κατακόρυφα και με κυβερνοεπιθέσεις σε ορισμένες άγνωστες περιοχές, οι επίσημες υπηρεσίες συχνά υπερφορτώνονται. Σήμερα, θα σας διδάξω πώς να δημιουργήσετε έναν αποκλειστικό βοηθό τεχνητής νοημοσύνης που δεν πέφτει ποτέ με μηδενικό κόστος.
Γιατί να επιλέξετε την ιδιωτική ανάπτυξη; Ποια είναι τα πλεονεκτήματα της ιδιωτικής ανάπτυξης; Εκτός από τη σταθερότητα των υπηρεσιών, η ιδιωτική ανάπτυξη μας δίνει επίσης πλήρη έλεγχο της ασφάλειας των δεδομένων και μας επιτρέπει να προσαρμόζουμε ελεύθερα τις παραμέτρους και να επεκτείνουμε τις λειτουργίες ανάλογα με τις ανάγκες. Οι δωρεάν πόροι GPU που παρέχονται επί του παρόντος από το Tencent Cloud (ισοδύναμοι με το επίπεδο RTX 4080, 10.000 λεπτά ανά μήνα, υπηρεσία cloud μνήμης γραφικών 16G) είναι υπεραρκετοί, επιτρέποντάς μας να απολαμβάνουμε μια ομαλή εμπειρία AI χωρίς να χρειάζεται να επενδύσουμε σε υλικό. Τα λεπτομερή βήματα ανάπτυξης έχουν ως εξής:
Βήμα 1: Προπαρασκευαστικές εργασίες
Επισκεφθείτε το Tencent Cloud Studio
για να ολοκληρώσετε την εγγραφή και την επαλήθευση του πραγματικού ονόματος. Αυτό το βήμα είναι ζωτικής σημασίας, καθώς μόνο οι χρήστες με πραγματικό όνομα μπορούν να λάβουν δωρεάν πόρους GPU.
Μπορείτε επίσης να επιλέξετε πόρους που παρέχονται από άλλους παρόχους υπηρεσιών νέφους. Αυτό το άρθρο χρησιμοποιεί το Tencent Cloud ως παράδειγμα. Οι δωρεάν πόροι GPU είναι τώρα διαθέσιμοι
Βήμα 2: Δημιουργία χώρου εργασίας
Αναζήτηση για "Ollama" στη διεπαφή επιλογής προτύπου χώρου εργασίας και επιλέξτε τον βασικό τύπο (δωρεάν έκδοση) για να δημιουργήσετε έναν χώρο εργασίας. Περιμένετε 2-5 λεπτά για να ολοκληρωθεί η αρχικοποίηση.
Βήμα 3: Ανάπτυξη μοντέλου
Δημιουργήστε ένα νέο τερματικό στο χώρο εργασίας και εκτελέστε διαδοχικά τις ακόλουθες εντολές:
Σημείωση: Η λήψη του μοντέλου διαρκεί περίπου 10-15 λεπτά, ανάλογα με την κατάσταση του δικτύου. Αφού ολοκληρωθεί η λήψη, μπορείτε να μιλήσετε απευθείας με την AI στο τερματικό.
Βήμα 4: Διαμόρφωση διείσδυσης στο Intranet
Για να επιτρέψετε σε άλλες συσκευές να έχουν πρόσβαση στον βοηθό τεχνητής νοημοσύνης σας, πρέπει να ρυθμίσετε τη διείσδυση στο εσωτερικό δίκτυο:
- Ελέγξτε τη θύρα λειτουργίας του Ollama
- Έναρξη διείσδυσης στο intranet
Σημείωση: Ο αριθμός θύρας 6399 είναι ένα παράδειγμα, παρακαλούμε αντικαταστήστε τον σύμφωνα με το αποτέλεσμα του προηγούμενου βήματος.
Μετά την εκτέλεση, θα λάβετε μια διεύθυνση πρόσβασης σε δημόσιο δίκτυο με τη μορφή:
Βήμα 5: Ρύθμιση αυτόματης επανεκκίνησης (προαιρετικό αλλά συνιστάται)
Για να διατηρηθεί η σταθερή λειτουργία της υπηρεσίας, συνιστάται η προσθήκη ενός σεναρίου αυτόματης επανεκκίνησης:
Βήμα 6: Διαμόρφωση
Το CherryStudio χρησιμοποιείται ως παράδειγμα. Για μια λεπτομερή εισαγωγή,
- Κατεβάστε και εγκαταστήστε το CherryStudio
- Προσθέστε μια νέα διαμόρφωση μοντέλου στις ρυθμίσεις:
- Όνομα μοντέλου: deepseek-r1:14b
- Διεύθυνση διακομιστή: συμπληρώστε τη διεύθυνση του δημόσιου δικτύου gradio
- Κλειδί API: αφήστε το κενό
Συμβουλές βελτιστοποίησης επιδόσεων
Θέλετε ο βοηθός τεχνητής νοημοσύνης σας να ανταποκρίνεται ταχύτερα; Δοκιμάστε αυτές τις παραμέτρους βελτιστοποίησης:
Συχνές ερωτήσεις
Εάν συναντήσετε μια θύρα να είναι κατειλημμένη:
Η λήψη του μοντέλου διακόπηκε:
Ανεπαρκής μνήμη
Συμβουλές
- Οι δωρεάν περιπτώσεις GPU θα κοιμούνται αυτόματα στις 2 π.μ. κάθε πρωί. Συνιστάται να αποφεύγετε αυτή την περίοδο
- Η διεύθυνση διείσδυσης στο intranet θα λήξει μετά από 72 ώρες. Θυμηθείτε να την ελέγχετε τακτικά
- Μπορείτε να ελέγξετε τη διάρκεια της απόκρισης ρυθμίζοντας την παράμετρο -max-tokens για να εξισορροπήσετε την ταχύτητα και την πληρότητα.
- Εάν διαπιστώσετε ότι η απόκριση επιβραδύνεται, μπορείτε να δοκιμάσετε να επανεκκινήσετε την υπηρεσία
Σε αυτό το σημείο, ο δικός σας βοηθός τεχνητής νοημοσύνης είναι έτοιμος να ξεκινήσει. Δεν είναι μόνο σταθερός και αξιόπιστος, αλλά και πλήρως υπό τον έλεγχό σας. Είτε πρόκειται για καθημερινή συγγραφή, προγραμματισμό ή ανάλυση δεδομένων, θα έχετε έναν ικανό βοηθό να σας υποστηρίζει.
Θυμηθείτε να κρατάτε τη διεύθυνση πρόσβασής σας ασφαλή και αν έχετε ερωτήσεις σχετικά με τη διαδικασία ανάπτυξης, μπορείτε να τις συζητήσετε στην ενότητα των σχολίων. Εύχομαι σε όλους σας μια νέα χρονιά στην οποία θα μπορέσετε να φτάσετε σε νέα ύψη με τη βοήθεια της ΤΝ!
