신경망이 잘하는 것

딥러닝이 자주 이기는 3가지 패턴

인지: 원시 픽셀, 파형, 텍스트를 구조화된 예측으로 바꿔. 이미지 분류, 객체 탐지, ASR, OCR, NER가 여기에 들어가. 수십 년 동안 이어진 수작업 특징 추출 파이프라인이 불과 몇 년 만에 대체됐어.

생성: 데이터 분포를 따르는 구조화된 출력을 만들어. 번역, 이미지 합성, 코드 자동 완성, TTS, 음악 생성이 대표적이야. 모델은 데이터가 놓인 다양체를 학습한 뒤 그 안에서 표본을 추출해.

문맥을 고려한 시퀀스 추론: 긴 입력을 받아 전체 구조에 의존하는 출력을 만들어. 문서 이해, 여러 파일에 걸친 코드 리팩터링, 여러 턴 대화, 에이전트형 도구 사용이 여기에 해당해. Transformer가 이 패턴에 강한 이유는 어텐션을 통해 모든 토큰이 다른 모든 토큰을 볼 수 있기 때문이야.

이 패턴들은 왜 비슷할까

셋 다 차원이 높고 중복과 잠재 구조가 많은 데이터에서 학습한 표현을 활용해. 또 셋 다 사전학습의 효과가 큰 영역이야. 공개 웹으로 사전학습한 모델은 대부분의 패턴을 이미 봤으니, 본인 과제에 맞게 방향만 잡아주면 돼.

원칙: 문제가 이 셋 중 하나에 들어맞는다면 딥러닝은 호기심으로 써보는 도구가 아니라 기본 선택지야. 어디에도 맞지 않는다면 왜 딥러닝으로 확장해야 하는지 본인이 입증해야 해.

경계에 있는 사례

딥러닝이 사람이나 전통적인 방법을 자동으로 이기지 못하는 영역도 있어. 특징 공학이 강한 표 형식 데이터에서는 기울기 부스팅이 여전히 이기고, 사전학습을 활용할 수 없는 작은 데이터셋도 마찬가지야. 해석 가능성이 반드시 필요한 문제나, 느린 것보다 틀리는 비용이 더 큰 문제도 딥러닝의 자동 승리 구간이 아니야. 다음 레슨에서는 바로 이 경계를 다룰 거야.

Code

세 가지 과제 유형, 하나의 라이브러리·python

from transformers import pipeline

# Perception
clf = pipeline("image-classification", model="google/vit-base-patch16-224")
print(clf("dog.jpg")[0])

# Generation
gen = pipeline("text2text-generation", model="google/flan-t5-base")
print(gen("translate English to Korean: I love deep learning"))

# Sequence reasoning
qa = pipeline("question-answering")
ctx = "PyTorch was released in 2016 by FAIR. It uses dynamic graphs."
print(qa(question="When was PyTorch released?", context=ctx))

딥러닝이 자주 이기는 3가지 패턴

이 패턴들은 왜 비슷할까

경계에 있는 사례

Code

External links

Exercise

Progress

댓글 0