Legal AI Assistant

AI Engineer
Legal AI Assistant

Tech Stack

Python
PyTorch
HuggingFace
Pandas
NumPy

Description

Legal AI Assistant adalah asisten AI yang dirancang untuk menjawab pertanyaan hukum dengan merujuk pada dokumen resmi Indonesia seperti Undang-Undang (UU) dan Peraturan Pemerintah (PP).

Sistem dibangun di atas pipeline Retrieval-Augmented Generation (RAG) yang memadukan pencarian dokumen hukum dengan model bahasa hasil fine-tuning pada dataset bahasa Indonesia, sehingga jawaban lebih kontekstual dan terlacak sumbernya.

Untuk meningkatkan kemampuan reasoning model, diterapkan GRPO (Group Relative Policy Optimization) sebagai strategi fine-tuning lanjutan, memungkinkan penalaran multi-langkah yang lebih andal.

  • Melakukan fine-tuning model bahasa pada dataset hukum bahasa Indonesia untuk meningkatkan akurasi domain.
  • Menerapkan GRPO untuk melatih kemampuan reasoning model dalam menjawab pertanyaan multi-langkah.
  • Membangun sistem Retrieval-Augmented Generation (RAG) di atas kumpulan dokumen UU/PP dengan sumber yang terlacak.
  • Mengintegrasikan HuggingFace Transformers dan TRL untuk alur pelatihan dan inferensi model.

Page Info

SFT Fine Tune

Log train and eval Supervised Fine Tune using of qwen3-1.7B with unsloth for Indonesian dataset

/projects/legalassistant/sft_train_loss.png/projects/legalassistant/sft_eval_loss.png

GRPO Fine Tune

GRPO log from fine-tuned qwen3-1.7B in order to train model to reasoning

/projects/legalassistant/train_loss.png/projects/legalassistant/train_reward.png

Pipeline RAG & Fine-Tuning

Menggabungkan retrieval dari dokumen UU/PP dengan model bahasa yang di-fine-tune untuk reasoning hukum.

/projects/legalassistant/rag.png

    Muhammad Irfan Irsyad — AI Engineer & Fullstack Developer