🔆 MentiChat

Mental Health ChatBot with Transformer Model (Encoder-Decoder) with API Transport from Hugging Face.

Apps Overview

Notes : Proyek ini masih dalam tahapan pengembangan awal jadi jika ada kesalahan di dalam rekomendasi ataupun respons dari AI kami. Tolong Chat Developer kami untuk perbaikan lebih lanjut.

☕ Nama Anggota Kelompok

Abdurrahman Al-atsary (Sains Data)
Gede Moena (Sains Data)
Wulan Sabina (Sains Data)
Putri Olivia Nuraeni (Sains Data)
Kiwit Novita Sari (Sains Data)
Tarisah (Sains Data)

✨ Latar Belakang

Kesehatan mental adalah salah satu komponen esensial dari kesejahteraan individu, namun seringkali diabaikan dalam masyarakat. Di Indonesia, isu kesehatan mental masih dipandang sebelah mata, baik karena stigma sosial maupun kurangnya pemahaman masyarakat. Padahal, dampak kesehatan mental yang tidak tertangani dengan baik dapat memengaruhi berbagai aspek kehidupan, termasuk hubungan sosial, produktivitas kerja, hingga kualitas hidup secara keseluruhan.

📌 Tujuan

Membangun sebuah model berbais transformer untuk membuat teman pribadi (chat assistant) untuk bisa membangun presepsi yang baik antar user dan bot sehingga kesehatan mental user dapat merasa tentram.

📂 Dataset

Dataset yang digunakan merupakan dataset yang dikumpulkan dari sumber terbuka (open source) yang ada di website Hugging Face dan Google Dataset yang berupa dataset yang terdiri dari 2 Fitur : Context (Tanya) dan Response (Jawab) tentang kesehatan mental.

🤖 Metode : Arsitektur Transformer (Encoder-Decoder)

graph TB
  %% Input and Encoder Section
  A[Input Sequence] --> B[Input Embedding]
  B --> C[Positional Encoding]
  C --> D[Encoder Block 1]
  D --> E[Encoder Block 2]
  E --> F[Encoder Output]

  %% Target and Decoder Section
  G[Target Sequence] --> H[Target Embedding]
  H --> I[Positional Encoding]
  I --> J[Decoder Block 1]
  J --> K[Decoder Block 2]
  K --> L[Decoder Output]

  %% Encoder-Decoder Attention Links
  F -.->|Encoder Output| J
  F -.->|Encoder Output| K

  %% Output Generation
  L --> M[Output Linear Layer]
  M --> N[Final Output]

  %% Subgraph for Encoder Block
  subgraph Encoder_Block [Encoder Block Details]
    direction TB
    E1[Self-Attention] --> E2[Add & Layer Norm]
    E2 --> E3[Feed-Forward]
    E3 --> E4[Add & Layer Norm]
  end
  D -->|Details| Encoder_Block
  E -->|Details| Encoder_Block

  %% Subgraph for Decoder Block
  subgraph Decoder_Block [Decoder Block Details]
    direction TB
    D1[Self-Attention] --> D2[Add & Layer Norm]
    D2 --> D3[Encoder-Decoder Attention]
    D3 --> D4[Add & Layer Norm]
    D4 --> D5[Feed-Forward]
    D5 --> D6[Add & Layer Norm]
  end
  J -->|Details| Decoder_Block
  K -->|Details| Decoder_Block

Loading

Hasil Evaluasi Model

Aspek	Score
Human Evaluation*	70%
BLEU Score**	72.341%
METEOR Score**	96%

Notes:
* : Butuh Evaluasi beberapa orang dan beberapa skenario prompt untuk mengevaluasi hasilnya
** : Butuh data dengan aspek besar untuk mengevaluasi perfoma dari model yang dibuat.

🌾 Cara Penggunaan (Untuk Pengembangan)

# Clone Github ini
git clone https://github.com/sains-data/MentiChat

# Buatlah sebuah environment python (Jika sudah memakai anaconda langsung install requirement yaa..)
pip install virtualenv
python -m venv venv

# Hidupkan environment python Anda
source venv/bin/activate # Linux and MacOS
.\venv\Scripts\activate  # Windows

# Install keseluruhan library yang dibutuhkan dalam pengembangan aplikasi ini 
pip install -r requirements.txt

# (Opsional) Silahkan buat model yang anda suka dan setting API model didalam file .env file ya

Silahkan jika ingin berminat untuk mengembangkan aplikasi dan model ini lebih lanjut..., Salam Developer 🐼

🐻 Cara Penggunaan (Untuk User Friendly)

Kalian dapat mengunjungi link berikut untuk interaksi dengan AI kami secara langsung. Sttt siapa lagi yang bisa kamu chat saat kamu lagi galau...👀

💬 FAQ (Frequently Asked Question)

Jika masih ada pertanyaan reach aja kami salah satu diatas ataupun bisa menghubungi email Dev-Email

📖 Referensi

[1] A. Vaswani, N. Shazeer, N. Parmar, J. Uszkoreit, L. Jones, A. N. Gomez, Ł. Kaiser, and I. Polosukhin, “Attention Is All You Need,” arXiv preprint arXiv:1706.03762, 2023. [Online]. Available: https://arxiv.org/abs/1706.03762

[2] N. Esfandiari, K. Kiani, and R. Rastgoo, “A Conditional Generative Chatbot using Transformer Model,” arXiv preprint, 2023. [Online]. Available: https://arxiv.org/abs/2306.02074.

[3] Y. Zhang, "Utilizing Transformers for Interactive Chatbot Development", 2024 [Online]. Available: https://thesciencebrigade.com/jcir/article/download/288/277/601

---

Project Responsible : Abdurrahman Al-atsary (rachmanz)
Created by : Kelompok 21 (Tugas Besar Deep Learning)
Notion : Project Kelompok 21
TA : 2024 - 2025