junsung86/model_mental_care_v0.1

정신건강 상담 fine-tuning model(Mental Health Counseling Fine-tuned Model)

📚 모델 소개

이 모델은 unsloth/gpt-oss-20b를 기반으로 Amod/mental_health_counseling_conversations 데이터셋으로 파인튜닝된 심리 상담 및 정신 건강 지원 전용 모델입니다. LoRA(Low-Rank Adaptation) 기술을 사용하여 효율적으로 학습되었으며, 내담자의 감정에 공감하고 비판단적인(non-judgemental)조언을 제공하는데 특화되어 있습니다.

🎯 주요 특징

• 베이스 모델: unsloth/gpt-oss-20b (20B 파라미터)
• 훈련 방법: LoRA (Low-Rank Adaptation)
• 특화 분야: 심리 상담, 정서적 지지, 스트레스 관리 조언
• 데이터셋: Amod/mental_health_counseling_conversations
• 언어: 영어 (English)

🚀 사용 방법

모델 로드

from transformers import AutoModelForCausalLM, AutoTokenizer
from peft import PeftModel
import torch

# 베이스 모델 로드
base_model = AutoModelForCausalLM.from_pretrained(
    "unsloth/gpt-oss-20b-unsloth-bnb-4bit", # 4bit 양자화 모델 사용 권장
    torch_dtype=torch.float16,
    device_map="auto",
    trust_remote_code=True
)

# LoRA 어댑터 로드
model = PeftModel.from_pretrained(base_model, "junsung86/model_mental_care_v0.1")

# 토크나이저 로드
tokenizer = AutoTokenizer.from_pretrained("junsung86/model_mental_care_v0.1")

사용 예시

# 시스템 프롬프트: 공감하는 상담사 역할 부여
system_prompt = "You are an empathetic and supportive mental health counselor. Listen to the user and provide helpful, non-judgmental responses."

messages = [
    {"role": "system", "content": system_prompt},
    {"role": "user", "content": "I feel like I'm failing at everything and I don't know how to handle this stress."}
]

inputs = tokenizer.apply_chat_template(
    messages,
    add_generation_prompt=True,
    return_tensors="pt",
    return_dict=True
    reasoning_effort="medium" # GPT-OSS 추론 강도 설정
).to(model.device)

with torch.no_grad():
    outputs = model.generate(
        **inputs,
        max_new_tokens=512,
        do_sample=True,
        temperature=0.7, # 창의적이고 부드러운 답변을 위해 설정
        top_p=0.9,
        pad_token_id=tokenizer.eos_token_id
    )

response = tokenizer.decode(outputs[0], skip_special_tokens=True)
print(response)

📊 훈련 정보

• 베이스 모델: unsloth/gpt-oss-20b-unsloth-bnb-4bit
• 훈련 에폭: 1 Epoch (전체 데이터셋 학습)
• LoRA Rank(r): 16
• LoRA Alpha: 32
• 타겟 모듈: q_proj, k_proj, v_proj, o_proj, gate_proj, up_proj, down_proj
• 데이터셋: Amod/mental_health_counseling_conversations

🎓 활용 분야

이 모델은 다음과 같은 정신 건강 관련 대화 시나리오에서 활용될 수 있습니다:

정서적 지지 (Emotional Support)

• 우울감 및 불안감 호소에 대한 공감적 반응
• 외로움 해소 및 대화 상대 역할

스트레스 관리 (Stress Management)

• 일상적인 스트레스 상황에 대한 대처법 제안
• 번아웃 증후군에 대한 이해와 위로

대인 관계 (Relationships)

• 가족, 연인, 친구 관계 갈등에 대한 조언
• 의사소통 문제 해결 방안 모색

자기 계발 (Self-Improvement)

• 자존감 향상 및 긍정적 사고방식 유도
• 목표 설정 및 동기 부여

💻 시스템 요구사항

• GPU 메모리: 최소 16GB (4bit 양자화 기준, 권장 24GB+ A10G/A100 등)
• 시스템 RAM: 최소 32GB
• Python: 3.10+
• 주요 라이브러리: unsloth, transformers, peft, torch, accelerate

⚠️ 주의사항 (Disclaimer)

1. 전문 의료 행위 불가: 이 모델은 전문적인 정신과 의사나 심리 상담사가 아닙니다. 생성된 답변은 의학적 진단이나 치료를 대체할 수 없습니다.
2. 위기 상황 대응 불가: 자해, 자살, 타해 등의 즉각적인 위험이 있는 위기 상황에서는 적절한 도움을 줄 수 없습니다. 이러한 경우 즉시 지역 응급 기관이나 전문가에게 도움을 요청해야 합니다.
3. 사실 확인 필요: 모델이 생성하는 조언이나 정보는 항상 검토가 필요하며, 사용자의 상황에 맞지 않을 수 있습니다.
4. 윤리적 사용: 이 모델을 사용하여 타인에게 해를 끼치거나 악의적인 목적으로 상담 내용을 조작해서는 안 됩니다.

🔗 관련 링크

• 베이스 모델: unsloth/gpt-oss-20b
• 데이터셋: Amod/mental_health_counseling_conversations

📜 라이선스

이 모델은 베이스 모델인 unsloth/gpt-oss-20b의 라이선스 및 데이터셋의 라이선스 정책을 따릅니다.