π±βπ» HackCat AI Chat
HackCat AI Chat adalah aplikasi chatbot berbasis Command Line Interface (CLI) yang berjalan menggunakan model bahasa lokal (Large Language Model) berekstensi .gguf. Proyek ini menggunakan pustaka gpt4all dan dirancang untuk berjalan sepenuhnya secara offline tanpa memerlukan koneksi internet.
β¨ Fitur Utama
- 100% Offline: Menjaga privasi data Anda karena pemrosesan dilakukan sepenuhnya di perangkat lokal.
- Streaming Responses: Jawaban dari AI ditampilkan kata demi kata secara real-time, memberikan pengalaman obrolan yang natural.
- Sesi Interaktif: Mengingat konteks percakapan selama sesi berjalan.
π οΈ Persyaratan Sistem (Prerequisites)
Sebelum menjalankan aplikasi ini, pastikan sistem Anda telah memenuhi persyaratan berikut:
- Python versi 3.8 atau lebih baru.
- Pustaka Python GPT4All.
- File model GGUF bernama
Model_Bahasa_Ram 2.gguf.
π Cara Instalasi & Persiapan
1. Install Library GPT4All Buka terminal/command prompt Anda dan jalankan perintah berikut:
pip install gpt4all
2. Persiapkan File Model
Karena aplikasi ini disetel untuk tidak mengunduh model secara otomatis (allow_download=False), Anda harus menyediakan file modelnya secara manual:
- Unduh atau siapkan file model
Model_Bahasa_Ram 2.gguf. - Buat folder bernama
modeldi direktori yang sama dengan file script Python Anda. - Pindahkan file
.gguftersebut ke dalam foldermodel.
3. Struktur Direktori Pastikan struktur folder Anda terlihat seperti ini:
π¦ Proyek_HackCat/
β£ π model/
β β π Model_Bahasa_Ram 2.gguf
β π main.py (File script Python Anda)
π» Cara Menjalankan Aplikasi
- Buka terminal/command prompt.
- Arahkan ke direktori proyek Anda.
- Jalankan script Python:
python main.py
(Ganti main.py dengan nama file Python Anda yang sebenarnya).
Setelah berjalan, Anda akan melihat tampilan seperti ini di terminal:
=== HackCat AI Chat ===
(Ketik 'exit' untuk berhenti)
Kamu: Halo, apa kabar?
AI: Halo! Kabar saya baik. Ada yang bisa saya bantu hari ini?
Ketik exit kapan saja untuk menghentikan program dan keluar dari sesi obrolan.
βοΈ Penjelasan Kode Singkat
model_path="./model/": Menentukan lokasi di mana program akan mencari file model.allow_download=False: Memaksa program untuk hanya menggunakan model yang sudah ada secara lokal. Jika file tidak ditemukan, program akan memunculkan error alih-alih mencoba mengunduhnya dari internet.streaming=True: Memungkinkan teks dicetak ke layar sedikit demi sedikit (efek mengetik) alih-alih menunggu seluruh kalimat selesai dibuat oleh AI.
π οΈ Panduan Troubleshooting (Pemecahan Masalah)
Jika Anda menemui kendala saat menjalankan HackCat AI Chat, silakan cek solusi di bawah ini:
1. Model Not Found (File Tidak Ditemukan)
Gejala: Muncul pesan error Model file not found atau program langsung tertutup.
- Solusi: * Pastikan nama file di dalam folder
modelsama persis dengan yang ada di kode:Model_Bahasa_Ram 2.gguf. Perhatikan spasi dan huruf kapital. - Pastikan path-nya benar. Jika Anda menjalankan script dari folder luar, gunakan path absolut atau pastikan folder
model/berada satu level dengan script.py.
2. Error: "Instruction set not supported" (AVX/AVX2)
Gejala: Program crash atau error saat inisialisasi model.
- Penyebab: GPT4All memerlukan instruksi CPU tertentu (AVX atau AVX2). Jika CPU Anda terlalu lama, ia mungkin tidak mendukung instruksi ini.
- Solusi: * Update driver chipset Anda.
- Pastikan Anda menggunakan versi
gpt4allterbaru (pip install --upgrade gpt4all). - Jika menggunakan CPU sangat tua, Anda mungkin perlu mencari build khusus atau mengganti perangkat.
3. Masalah RAM & Performa (Lagging)
Gejala: Respon AI sangat lambat atau komputer menjadi tidak responsif.
- Penyebab: Model
.ggufdimuat ke dalam RAM. Model yang besar membutuhkan RAM yang lega (minimal 8GB untuk performa stabil). - Solusi:
- Tutup aplikasi berat lainnya (Chrome, Game, Video Editor) saat menjalankan AI.
- Gunakan model dengan ukuran parameter yang lebih kecil atau kuantisasi yang lebih tinggi (misal: versi
Q4_K_M).
4. Library Tidak Terdeteksi
Gejala: ModuleNotFoundError: No module named 'gpt4all'
- Solusi: Pastikan Anda menginstal library di lingkungan (environment) yang benar. Jika menggunakan Virtual Environment (venv), aktifkan dulu venv-nya sebelum menjalankan
pip install.
5. Karakter Aneh pada Output Streaming
Gejala: Muncul karakter kotak-kotak atau simbol aneh saat AI menjawab.
- Solusi: Ini biasanya masalah encoding pada Terminal/CMD. Gunakan terminal yang mendukung UTF-8 seperti VS Code Terminal, Windows Terminal, atau PowerShell (hindari CMD jadul jika memungkinkan).
π Tips Tambahan
- Update Library: Selalu gunakan versi terbaru dengan perintah
pip install -U gpt4all. - Logs: Jika error tetap berlanjut, hapus
allow_download=Falsesementara untuk melihat apakah library mencoba mengunduh dependensi yang hilang.
- Downloads last month
- 106
We're not able to determine the quantization variants.
Model tree for CyberSociety/HummanAI
Base model
Qwen/Qwen3-Coder-Next