MedNLI-Transformer

의료자료 자연어 처리

Transformer 모형들의 구조적 특성과 사전학습 자료 특성 분석 (2022.12 ~ 2023.02)

• PhysioNet 공개 의료자료 MedNLI 활용
  • NLI 작업 (3 Labels)
  • MIMIC-III 환자 진료기록부 자료 기반
• Transformer 구조 기반 사전학습 모형의 특성 분석
  • 사전학습 자료의 특성 → NLI 작업 및 생물의학 분야 특화
  • 구조적 특성 → BERT 모형의 NST 유무, MLM의 변화
  • 전이학습 상황에서의 환경의 영향력 파악