Day_28 [마스터클래스] 주재걸교수님

[마스터클래스] 주재걸교수님

Q&A

• 완전히 대체되진 않았고 여전히 많이 사용되는 분야가 있음
• 의료 데이터에서 시계열데이터 예측하고 하는데 사용
  • 응급실 환자의 signal 을 빨리 catch
• 여전히 short-term signal 이 중요한 역할을 하는 경우에는 많이 활용됨
• Transformer 가 좋긴한데 많은 parameter 가 있어서 메모리를 많이 필요
• LSTM, GRU 는 경량화 용도로도 활용사례가 많은걸로 알고 있음

• self-supervised learning 이 많이 나오고 있음
• 자원들을 많이 가지고 있는 쪽과 협력을 하는게 중요한 부분인 것 같고 그와 동시에 여전히 새로운 문제 세팅이라는 측면에서는 여전히 연구를 할 수 있는 가능성과 방향성이 있다고 말할 수 있을 듯

• 연구의 흐름이 이렇게 가고 있고 우리도 잘 탑승해서 성공을하고 원하는 것을 하는게 목적인데 우리가 원하는 game changer 가 되면 좋겠고 그러기 위해선 여러가지 경험과 resource 가 필요
• 현실적으로 어려움
• 범용적으로 잘 동작하는 그런 general 한 approach 를 찾아내는 것은 쉽지 않은 일일 수 있음
• 이게 현재 최선인지는 모르겠지만 최근의 기술들이 어떻게 발전하는지를 빠르게 흡수하고 기회를 포착하는게 중요할 듯
• 동시에 남들이 보지못하는 시각, 깊이있게 공부를 하는 부분이 필수적인 요소
• 깊이 있게 공부를 하는 것이 남들이 보지 못하는 부분을 보는 눈을 길러주지 않나 싶음

• 입지가 좁아지고 있긴 하는데 이 개념들이 가지는 핵심원리를 잘 깨우치게 되면 그러한 부분들은 분명 다른부분에 응용될 수 있는 잠재력이 있다고 생각

• word2vec 하나를 배웠을 때 잘 안쓰이는 거라고 생각할 수 있지만 나중에 기반이 되는 지식임

• 세세하게 보는 것을 강추
• 최근에 나오는 자연어처리 연구에서도 다양한 task 에서 여전히 많이 활용이 되는 사례들은 찾아 볼 수 있음
• word 단위의 representation 이 필요한 경우도 많이 있음
• 동의어, 유사어 등 활용이 될 분야는 여전히 있음

• cloud 에 익숙해지는게 속편한 것 같음
• 장비도 계속 업그레이드도 필요하고 집에서 무언가 한다는건 전기세도 걱정
• 3080 정도
• colab pro 정도로 시작하는게 좋지 않나 싶음