C. (재미로 알아보는) 딥 뉴럴 네트워크

가즈아🔥🚀🚀

1. 이전 글에서 제가 느낀 점은 설명이 어려웠구나...🤦‍♂️

2. 그래서 이번엔 '그림'을 더 많이 사용하려 합니다

3. 이번 글에선 딥 뉴럴 네트워크가(DNN) 왜 필요한지, 그리고 어떻게 동작을 하는지 '직관적'으로 알아보려 합니다
4. 아래 그림은 '개'와 '과자'입니다

5. 만약, 개와 과자를 구분하는 프로그램을 손으로 써 나간다면 이런 논리로 진행할 것 같습니다 (예시로)
- 전체적인 '모양'은 무엇인가?
- 만약 '모양'이 동그라미면 '색깔'은?
- '색깔'이 갈색이면 귀처럼 보이는 '삼각형'이 있는가?
- 없다면 정답은⁉️ ImageImage
6. 비교적 간단한 논리로 개와 과자를 구분할 수 있을 것 같습니다

7. 그렇다면 아래의 '개'와 '음식'은 손으로 프로그램을 작성하여 구분할 수 있을까요?😱

8. 가능 할지도 모르겠습니다. 하지만 저라면 손으로 프로그램을 작성하지 않고 DNN로 문제를 해결하도록 하겠습니다 Image
9. 아래 그림 좌측처럼 휴먼이 다양한 개와 음식 사진을 많이 준비하고 DNN에게 보여줍니다 (input layer)

10. 답을 같이 보여주는건 아니고 먼저 그림만 보여준 후 중간에 위치한 DNN에게 맞춰보라고 시켜봅니다 Image
11. DNN은 처음에 무작위로 추론을 하여 답이 틀리지만 훈련한 그림의 숫자가 많을수록 점점 DNN의 출력은 (output layer) 답에 수렴합니다

12. 훈련이 끝났다고 판단이 되면 훈련할 때는 보지 못했던 우측의 그림을 보여주고 DNN에게 맞춰보라고 시킵니다
13. 만약 처음보는 그림을 DNN이 정확하게 구분을 한다면 '일반화'가 잘 된 DNN이라고 판단할 수 있습니다

14. 그렇다면 이런 DNN은 어떤 이유에서 이렇게 개와 음식을 구분할 수 있는 능력을 갖게 될까요?
15. 그 이유는 DNN의 훈련 과정에서 개와 음식의 고유 특징 (feature)을 추출 (extraction)하는 능력을 갖추게 되기 때문입니다
17. 특징을 추출하는 능력은 DNN의 핵심 가치입니다

18. 사물만의 고유한 특징을 잘 추출할 수록 DNN의 성능이 높아집니다 (일반적으로)

19. 그렇다면, 대체 어떤 특징들을 추출한다는 것일까요? (용어에 겁먹지 마세요. 좀 더 읽어보시면 용어 설명이 나옵니다)
20. 아래 그림은 구글넷(GoogLeNet)의 구조와 각 레이어 별로 추출된 특징을 시각화한 그림입니다

21. 'Layer3a'에서는 '점'과 '선'이 추출됩니다

22. 'Layer3b, 4a'에서는 점과 선이 합쳐져 '면'으로 이루어진 'Local' 특징이 보입니다

23. 'Layer4c'에서는 좀 더 'Global'한 특징이 보입니다 Image
24. 여기서 앞서 언급한 용어들을 좀 더 자세히 알아보겠습니다

25. '점'과 '선', 그리고 '면'은 모든 객체에 존재합니다

26. 점 선 면은 물체의 고유 특징이 아닌 고유 특징을 추출하기 위한 근본 요소입니다

27. 이런 근본 요소들이 모여 'Local'한 특징을 추출합니다
28. 왜 Local이라고 부를까요? 물체의 특정 위치 (local)에 존재할 만한 세부 특징이기 때문입니다 (사람으로 치면 눈, 코, 입)

29. 마지막으로, 이런 Local한 특징들이 모여 'Global'한 특징을 추출합니다 (얼굴)
30. Global이라고 부르는 이유는 해당 물체의 세부 특징을 모두 포함하고 있기 때문입니다

31. 요약하자면
- 점, 선, 면
- 점, 선, 면 조합하여 Local 특징 추출
- Local을 조합하여 Global 특징 추출

32. 이렇게 추출된 Global한 특징은 딥러닝의 다양한 용도로 사용됩니다
33. 여기까지가 제가 생각하는 딥 뉴럴 네트워크의 구조 개요입니다

34. 여기서 더 세부로 들어갈 수도 있고 아니면 뭘 해야할지 고민이 됩니다

35. 댓글을 남겨주시면 살펴보고 무엇을 다뤄볼지 정해보겠습니다

36. 댓글이 없다면?

37. (이번 글) 끝 👋👋

• • •

Missing some Tweet in this thread? You can try to force a refresh
 

Keep Current with Hyun Jung

Hyun Jung Profile picture

Stay in touch and get notified when new unrolls are available from this author!

Read all threads

This Thread may be Removed Anytime!

PDF

Twitter may remove this content at anytime! Save it as PDF for later use!

Try unrolling a thread yourself!

how to unroll video
  1. Follow @ThreadReaderApp to mention us!

  2. From a Twitter thread mention us with a keyword "unroll"
@threadreaderapp unroll

Practice here first or read more on our help page!

More from @HyunJung4321

2 Aug
Dave Lee on Investing에 comma.ai 의 George Hotz가 나와서 인터뷰를 했습니다

이미 @ContrarianKor 님이 인터뷰 앞 부분을 번역해서 올렸습니다🙏

저는 거기에 좀 더 제 개인적인 생각을 더해봤습니다

Credit: @heydave7
1. 가장 인상적인 부분은 perception layer (PL) 가 얼마나 복잡해야 하나에 대한 대화였습니다

2. 여기서 PL 이라 함은 자율주행을 위해 자신의 주변을 인지하는 것 이라고 전 이해했습니다
3. Tesla와 Comma의 다른 점은 PL이 얼마나 많은 객체를 인식해야하는가 입니다.

4. Tesla는 주변의 모든 객체를 정확하게 이해하려고 합니다 (자동차, 빌딩, 다리, 나무, 신호등, 경고등 등등)
Read 13 tweets
1 Aug
1. 테슬라 FSD 릴리즈를 극 소수에게 한 이유를 지금 생각해보니, 정말 운전을 옳바르게(?) 하는 사람을 선별하기 위함이었단 생각을 해봅니다. 스탑 사인에서 슬금슬금 움직이는 것

2. 비보호 좌회전에서 핸들을 미리 꺾는 점
3. 사람들이 무의식 중에 저지르는 다양한 문제들이 FSD 학습에 반영이 되는 현상이 보이네요

4. 자율주행이 진짜 어렵다고 하는 이유는 수많은 엣지 케이스 이외에도 사람의 운전이 완벽할 수 없고 이런 바이어스가 FSD에 반영이 되는 것 같습니다
5. 그럼에도 전 테슬라 팬으로 일론 머스크 형님이 강한 자신감을 보이는 이유가 있다고 생각합니다. 실제로 문제점이 보여지기도 했지만, 짧은 시간내에 성능의 향상을 보고하는 사람들도 있으니까요.

6. 어렵지만 갈 수 있다고 믿습니다
#FSD $tsla
Read 4 tweets
30 Jul
나의 아저씨 2편, 한 줄 감상평

- 회사 보안팀이 무력으로 개인을 구류하는 것은 법적으로 타당한가?
나의 아저씨 3편, 두 줄 감상평

- 처음으로 아이유 이선균 모두를 응원하게 되었고, 머리는 아이유, 마음은 이선균처럼 살고 싶다
- 밥을 누구와 먹는가는 중요한 것 같다
나의 아저씨 4편, 두 줄 감상평

- Structural Engineer의 위엄을 확인하였음
- 부모님께 잘해드리자
Read 5 tweets

Did Thread Reader help you today?

Support us! We are indie developers!


This site is made by just two indie developers on a laptop doing marketing, support and development! Read more about the story.

Become a Premium Member ($3/month or $30/year) and get exclusive features!

Become Premium

Too expensive? Make a small donation by buying us coffee ($5) or help with server cost ($10)

Donate via Paypal Become our Patreon

Thank you for your support!

Follow Us on Twitter!

:(