DeepSeek-r1 telah menyebabkan diskusi hangat di komunitas global karena kinerjanya yang luar biasa. Namun, seiring dengan melonjaknya jumlah pengguna, dan dengan serangan siber di beberapa area yang tidak diketahui, layanan resmi sering kali kewalahan. Hari ini, saya akan mengajari Anda cara membuat asisten AI yang berdedikasi dan tidak pernah mati tanpa biaya.
Mengapa memilih penerapan privat? Apa saja manfaat dari penerapan privat? Selain stabilitas layanan, penerapan privat juga memberikan kami kendali penuh atas keamanan data, dan memungkinkan kami untuk secara bebas menyesuaikan parameter dan memperluas fungsi sesuai kebutuhan. Sumber daya GPU gratis yang saat ini disediakan oleh Tencent Cloud (setara dengan level RTX 4080, 10.000 menit per bulan, layanan cloud memori grafis 16G) sudah lebih dari cukup, sehingga kami dapat menikmati pengalaman AI yang lancar tanpa harus berinvestasi pada perangkat keras. Langkah-langkah penerapan yang terperinci adalah sebagai berikut:
Langkah 1: Pekerjaan persiapan
Kunjungi Tencent Cloud Studio
untuk menyelesaikan pendaftaran dan verifikasi nama asli. Langkah ini sangat penting, karena hanya pengguna dengan nama asli yang dapat menerima sumber daya GPU gratis.
Anda juga dapat memilih sumber daya yang disediakan oleh penyedia layanan cloud lainnya. Artikel ini menggunakan Tencent Cloud sebagai contoh. Sumber daya GPU gratis sekarang tersedia
Langkah 2: Membuat ruang kerja
Cari "Ollama" pada antarmuka pemilihan template ruang kerja dan pilih tipe dasar (versi gratis) untuk membuat ruang kerja. Tunggu 2-5 menit hingga inisialisasi selesai.
Langkah 3: Penerapan model
Buat terminal baru di ruang kerja dan jalankan perintah berikut ini secara berurutan:
Catatan: Diperlukan waktu sekitar 10-15 menit untuk mengunduh model, tergantung pada kondisi jaringan. Setelah pengunduhan selesai, Anda dapat langsung berbicara dengan AI di terminal.
Langkah 4: Konfigurasikan Penetrasi Intranet
Untuk mengizinkan perangkat lain mengakses asisten AI Anda, Anda perlu mengonfigurasi penetrasi intranet:
- Periksa port yang sedang berjalan Ollama
- Memulai penetrasi intranet
Catatan: 6399 adalah contoh nomor port, silakan ganti sesuai dengan hasil langkah sebelumnya
Setelah eksekusi, Anda akan mendapatkan alamat akses jaringan publik dalam format:
Langkah 5: Tetapkan pengaktifan ulang otomatis (opsional, tetapi disarankan)
Untuk mempertahankan operasi layanan yang stabil, disarankan untuk menambahkan skrip restart otomatis:
Langkah 6: Konfigurasi
CherryStudio digunakan sebagai contoh. Untuk pengenalan yang mendetail,
- Unduh dan pasang CherryStudio
- Menambahkan konfigurasi model baru dalam pengaturan:
- Nama model: deepseek-r1: 14b
- Alamat server: isi alamat jaringan publik gradio Anda
- Kunci API: biarkan kosong
Kiat pengoptimalan kinerja
Ingin asisten AI Anda merespons lebih cepat? Coba parameter pengoptimalan ini:
Pertanyaan yang sering diajukan
Jika Anda menemukan pelabuhan yang sedang digunakan:
Pengunduhan model terputus:
Memori tidak mencukupi
Tips
- Instance GPU gratis akan secara otomatis tertidur pada pukul 2 pagi setiap hari. Disarankan untuk menghindari periode waktu ini
- Alamat penetrasi intranet akan kedaluwarsa setelah 72 jam. Ingatlah untuk memeriksanya secara teratur
- Anda dapat mengontrol panjang respons dengan menyesuaikan parameter -max-token untuk menyeimbangkan kecepatan dan kelengkapan
- Jika ternyata responsnya melambat, Anda dapat mencoba memulai ulang layanan
Pada titik ini, asisten AI Anda siap digunakan. Asisten ini tidak hanya stabil dan dapat diandalkan, tetapi juga sepenuhnya berada di bawah kendali Anda. Baik untuk menulis harian, pemrograman, atau analisis data, Anda akan memiliki asisten yang cakap untuk mendukung Anda.
Ingatlah untuk menyimpan alamat akses Anda dengan aman, dan jika Anda memiliki pertanyaan tentang proses penerapan, silakan diskusikan di bagian komentar. Saya berharap Anda semua mendapatkan tahun yang baru di mana Anda dapat mencapai ketinggian baru dengan bantuan AI!
