1. Setup

• 허깅페이스 이용을 위한 환경 설정 (colab & virual environment 두가지)
• 초급자에겐 코랩 추천함. 윈도우 지원 안하니 코랩 더욱 추천함.
• 커맨드로 모델 불러오기 , 내보내기

!pip install transformers

#light하게 불러옴, development version 설치 추천함.
import transformers

#예시
!pip install transformers[sentencepiece]

2. Transformer models

• 가장 기초적인 "pipeline" : text를 필수적인 전처리,후처리를 해서 문장에 연결해준다.

  • 영어에 대한 감성분석에 파인 튜닝된 모델 제공함 → 긍부정 분류(classify) 가능

  • classifier 객체 생성할 때 모델 할당되며, 재실행해도 이전 모델이 그대로 있다.

  • pipeline 하는 일 : 1. 모델 인식 가능하도록 전처리 → 2. 모델 통과 → 3. 모델 예측 후처리

    그 외에도 최근엔 다른 여러가지 일들을 할 수 있다(summarization , translation 등등)

  • 비지도 학습을 하므로 , 사전학습 모델의 레이블이 영향이 없다. 그리고 내가 레이블을 지정해줄수도 있다.

  e.g) zero-shot classification

  from transformers import pipeline
  
  classifier = pipeline("zero-shot-classification")
  classifier(
      "This is a course about the Transformers library",
      candidate_labels=["education", "politics", "business"],
  )
  

  e.g) text generation , 점심 추천받고 싶었으나 실패.. 그래도 단어 선택이 .. 대단하다.

  • gulp 이라는 단어 사용한 것 , 마지막 수미상관 , 배고프다했더니 몸무게 언급 ^^

  from transformers import pipeline
  
  generator = pipeline("text-generation")
  generator("I'm hungry , so today my lunch is")
  
  >> 'I'm hungry , so today my lunch is tasty!" 
  I replied with a gulp of water. As I asked how many items my friend ordered, my body slowly regained some of its original weight. 
  I was feeling hungry right now'
  

  • 모델 지정이랑 , max len 지정 가능하다. (근데 이러면 문장이 어이없이 잘린다.)

  #from transformers import pipeline
  
  generator = pipeline("text-generation", model="distilgpt2")
  generator(
      "In this course, we will teach you how to",
      max_length=30,
      num_return_sequences=2,
  )
  
  >> In this course, we will teach you how to properly implement and use our techniques 
  to properly apply techniques to the way you work and to properly perform your