Natural Language Processing

About this Collection

이 컬렉션은 자연어처리(NLP: Natural Language Processing) 분야의 핵심 연구를 정리한 아카이브입니다. Transformer, BERT, T5와 같은 기초 언어모델부터 GPT-4, Chain-of-Thought, LoRA, DeepSeek-R1 등 대규모 언어모델 시대의 응용 기술과 최신 동향을 포함하고 있습니다. 또한 다국어 처리, 생성형 챗봇, 추론 능력 향상 기법 등도 함께 소개합니다.

포함된 논문 유형 요약:

• 기초 논문: Attention is All You Need, BERT, T5
• 다국어: KoGPT, mT5
• 추론/안전성: CoT, DeepSeek-R1, GPT-4
• 기법 중심: LoRA, Scaling Laws
• 대화형 AI: Towards a Human-like Open-Domain Chatbot

주요 논문

• Vaswani et al. – Attention is All You Need
• Devlin et al. – BERT: Pre-training of Deep Bidirectional Transformers
• Raffel et al. – T5: Transfer Learning with Unified Text-to-Text
• Wei et al. – Chain-of-Thought Prompting
• OpenAI – GPT-4 Technical Report