A newer version of this model is available: Qwen/Qwen3.5-397B-A17B

πŸ±β€πŸ’» HackCat AI Chat

meow

HackCat AI Chat adalah aplikasi chatbot berbasis Command Line Interface (CLI) yang berjalan menggunakan model bahasa lokal (Large Language Model) berekstensi .gguf. Proyek ini menggunakan pustaka gpt4all dan dirancang untuk berjalan sepenuhnya secara offline tanpa memerlukan koneksi internet.

✨ Fitur Utama

  • 100% Offline: Menjaga privasi data Anda karena pemrosesan dilakukan sepenuhnya di perangkat lokal.
  • Streaming Responses: Jawaban dari AI ditampilkan kata demi kata secara real-time, memberikan pengalaman obrolan yang natural.
  • Sesi Interaktif: Mengingat konteks percakapan selama sesi berjalan.

πŸ› οΈ Persyaratan Sistem (Prerequisites)

Sebelum menjalankan aplikasi ini, pastikan sistem Anda telah memenuhi persyaratan berikut:

  1. Python versi 3.8 atau lebih baru.
  2. Pustaka Python GPT4All.
  3. File model GGUF bernama Model_Bahasa_Ram 2.gguf.

πŸš€ Cara Instalasi & Persiapan

1. Install Library GPT4All Buka terminal/command prompt Anda dan jalankan perintah berikut:

pip install gpt4all

2. Persiapkan File Model Karena aplikasi ini disetel untuk tidak mengunduh model secara otomatis (allow_download=False), Anda harus menyediakan file modelnya secara manual:

  • Unduh atau siapkan file model Model_Bahasa_Ram 2.gguf.
  • Buat folder bernama model di direktori yang sama dengan file script Python Anda.
  • Pindahkan file .gguf tersebut ke dalam folder model.

3. Struktur Direktori Pastikan struktur folder Anda terlihat seperti ini:

πŸ“¦ Proyek_HackCat/
 ┣ πŸ“‚ model/
 ┃ β”— πŸ“œ Model_Bahasa_Ram 2.gguf
 β”— πŸ“œ main.py (File script Python Anda)

πŸ’» Cara Menjalankan Aplikasi

  1. Buka terminal/command prompt.
  2. Arahkan ke direktori proyek Anda.
  3. Jalankan script Python:
python main.py

(Ganti main.py dengan nama file Python Anda yang sebenarnya).

Setelah berjalan, Anda akan melihat tampilan seperti ini di terminal:

=== HackCat AI Chat ===
(Ketik 'exit' untuk berhenti)

Kamu: Halo, apa kabar?
AI: Halo! Kabar saya baik. Ada yang bisa saya bantu hari ini?

Ketik exit kapan saja untuk menghentikan program dan keluar dari sesi obrolan.


βš™οΈ Penjelasan Kode Singkat

  • model_path="./model/": Menentukan lokasi di mana program akan mencari file model.
  • allow_download=False: Memaksa program untuk hanya menggunakan model yang sudah ada secara lokal. Jika file tidak ditemukan, program akan memunculkan error alih-alih mencoba mengunduhnya dari internet.
  • streaming=True: Memungkinkan teks dicetak ke layar sedikit demi sedikit (efek mengetik) alih-alih menunggu seluruh kalimat selesai dibuat oleh AI.

πŸ› οΈ Panduan Troubleshooting (Pemecahan Masalah)

Jika Anda menemui kendala saat menjalankan HackCat AI Chat, silakan cek solusi di bawah ini:

1. Model Not Found (File Tidak Ditemukan)

Gejala: Muncul pesan error Model file not found atau program langsung tertutup.

  • Solusi: * Pastikan nama file di dalam folder model sama persis dengan yang ada di kode: Model_Bahasa_Ram 2.gguf. Perhatikan spasi dan huruf kapital.
  • Pastikan path-nya benar. Jika Anda menjalankan script dari folder luar, gunakan path absolut atau pastikan folder model/ berada satu level dengan script .py.

2. Error: "Instruction set not supported" (AVX/AVX2)

Gejala: Program crash atau error saat inisialisasi model.

  • Penyebab: GPT4All memerlukan instruksi CPU tertentu (AVX atau AVX2). Jika CPU Anda terlalu lama, ia mungkin tidak mendukung instruksi ini.
  • Solusi: * Update driver chipset Anda.
  • Pastikan Anda menggunakan versi gpt4all terbaru (pip install --upgrade gpt4all).
  • Jika menggunakan CPU sangat tua, Anda mungkin perlu mencari build khusus atau mengganti perangkat.

3. Masalah RAM & Performa (Lagging)

Gejala: Respon AI sangat lambat atau komputer menjadi tidak responsif.

  • Penyebab: Model .gguf dimuat ke dalam RAM. Model yang besar membutuhkan RAM yang lega (minimal 8GB untuk performa stabil).
  • Solusi:
  • Tutup aplikasi berat lainnya (Chrome, Game, Video Editor) saat menjalankan AI.
  • Gunakan model dengan ukuran parameter yang lebih kecil atau kuantisasi yang lebih tinggi (misal: versi Q4_K_M).

4. Library Tidak Terdeteksi

Gejala: ModuleNotFoundError: No module named 'gpt4all'

  • Solusi: Pastikan Anda menginstal library di lingkungan (environment) yang benar. Jika menggunakan Virtual Environment (venv), aktifkan dulu venv-nya sebelum menjalankan pip install.

5. Karakter Aneh pada Output Streaming

Gejala: Muncul karakter kotak-kotak atau simbol aneh saat AI menjawab.

  • Solusi: Ini biasanya masalah encoding pada Terminal/CMD. Gunakan terminal yang mendukung UTF-8 seperti VS Code Terminal, Windows Terminal, atau PowerShell (hindari CMD jadul jika memungkinkan).

πŸ“ Tips Tambahan

  • Update Library: Selalu gunakan versi terbaru dengan perintah pip install -U gpt4all.
  • Logs: Jika error tetap berlanjut, hapus allow_download=False sementara untuk melihat apakah library mencoba mengunduh dependensi yang hilang.

Downloads last month
106
GGUF
Model size
2B params
Architecture
qwen2
Hardware compatibility
Log In to add your hardware

We're not able to determine the quantization variants.

Inference Providers NEW
This model isn't deployed by any Inference Provider. πŸ™‹ Ask for provider support

Model tree for CyberSociety/HummanAI

Adapter
(4)
this model

Dataset used to train CyberSociety/HummanAI