🙋🏻‍♂️ About me

Introduction

안녕하세요! 1년차 NLP 개발자 이종혁입니다.
기억보단 기록하는 것을 선호하여 회고를 매일 적고 있습니다.
🇰🇷 한국어 자연어처리의 다양한 Task들을 경험하였습니다.

Contact & Channel

📱 Phone | 010-9250-1173
✉️ E-mail | [email protected]

🏡 Blog | **https://jonhyuk0922.tistory.com/**
🖥 Github | **https://github.com/jonhyuk0922**
🗒️ Notion | Naver BoostCamp AI Tech 2

Timeline

기간	내용	한줄 요약
21.09 ~ 21.11	💬 훈민정음, 대화요약 대회	노이즈가 많은 대화 데이터(35만건)로 문어체의 요약문을 생성했습니다.
21.08 ~ 21.12	🌿 Naver AI BoostCamp 2기	NLP Task(R.E. , MRC)와 모델 최적화 , 모델 서빙을 대회형식으로 학습했습니다.
21.04 ~ 21.06	🍀 CLOVA AI RUSH 2021	실제 이용자에 대한 대규모 데이터를 활용한 문제정의 및 모델링을 경험했습니다.
20.11 ~ 21.02	🤖 코드프레소 인공지능 기초	CNN , RNN , lstms 와 같은 기본모델의 개념과 TF2.0을 통한 구현을 배웠습니다.
20.05 ~ 20.11	🏢 민앤지 CP기획팀	200만 고객의 매출 데이터 분석 경험과 다양한 팀과의 협업 경험을 쌓았습니다.
14.03 ~ 20.02	🏫 경희대학교 응용수학과	현상에 대한 논리적인 접근법과, 근거를 통해 명제를 입증하는 방법을 배웠습다.

🧗🏻 Competition & Project

💬 인공지능 , 훈민정음에 스며들다.

21.09.27 ~ 21.11.30

뉴스 본문 요약

EDA후, 데이터 품질 고려하여 train 없이 inference 진행
문장 생성 시 후처리를 통해 노이즈 제거
HuggingFace 를 통해 다양한 모델을 실험하여 최종 pororo-bart로 Rouge 0.52점 달성

카카오톡 대화 요약

전처리 : 비식별화 토큰 제거, 띄어쓰기 보정, 반복 단어 제거, 초성사전 만들어 치환 ⇒ base 대비 10% 이상 상승
요약문 생성 시 후처리(반복 제거,어미 고정)와 beam search 추가 ⇒ base 대비 10% 이상 상승
파인튜닝 시, 대화문 앞에 대화 카테고리 및 punctuation(e.g: @일상대화@) 추가 ⇒ Rouge 0.2점 상승
빛을 못본 시도 : mecab , big capacity , 화자 태그 추가

🌿 Naver AI 부스트 캠프 Competition

♻️ 암호화폐 R.E(관계추출) 데이터 제작

결과보고서 바로가기

21.11.08 ~ 21.11.18

R.E 데이터셋 A to Z 직접 구축해보기

사용한 Tool : tagtog, google sheet , python
데이터 제작을 위한 가이드 제작 및 품질 검증서 제작을 경험해볼 수 있었다.

🇰🇷 KLUE MRC

깃헙 레포 & 결과보고서 바로가기

21.10.11 ~ 21.11.04

MRC - Retriver + Reader architecture

Reader backbone + cnn header ⇒ 단일 모델 기준 EM 4점 상승
Ensemble convention을 정하고 다양한 Reader-Retriver 조합으로 hard-voting ⇒ 단일모델 대비 EM 10점 상승
Retriver 로 불러오는 문서의 길이(max_num)와 갯수(top-k)를 늘려줌 ⇒ base 대비 EM 34점 상승

🇰🇷 KLUE R.E.

깃헙 레포 & 결과보고서 바로가기

21.09.27 ~ 21.10.07

KLUE - Relation extraction(관계 추출) task for 30 relations

TAPT 기법으로 MLM task 추가학습하여 점수 향상
entity에 punct 추가하여 f1 score 약 3점 향상