2021년도는 여러모로 굉장히 바쁜 한 해였다.
석사 막 학년이기도 했고, 전문연구요원 취업을 해야했기 때문이다!
2021년을 분기별로 회고해보자면 다음과 같다.
1분기 (1월 ~ 3월)
- 1월부터 운동 본격적으로 시작 (거의 90kg에 육박하는 몸무게에 충격)
- 미국으로 교환학생 갔다온 뒤, 불어난 몸무게 상태로 딱히 다이어트를 안했음
- 식습관이 자극적으로 바뀌고, 대학원에서 주로 앉아만 있다보니 몸무게가 계속 늘어남
- 결국 마의 구간 90을 돌파해버렸다.
- 심각성 느끼고 다이어트 결심! - 석사 연구 주제 선택
- SW마에스트로에서 하던 DeepFake 관련 연구 추가 진행을 할까?
- Kaggle에서 아예 새로운 프로젝트를 해볼까?
- 이제 Vision은 그만 두고, NLP 외주 프로젝트를 해볼까?
결론 : DeepFake 후속도 하고, 외주 프로젝트도 하자!!! - 정보처리기사 + 토익 공부
- 막학기에 정신없어지기전에, 미리미리 따두자! (1달 집중 공부)
- 정보처리기사 취득
- 토익 925점으로 만족하고 Stop - Journal of Information Processing System(JIPS) 논문 제출
- 과거 네이버, 맨텍 해커톤에서 금상을 수상했던 스마트팩토리 프로젝트를 바탕으로 작성한 논문을 제출
- 구현을 딱히 대단하게 하지는 않아서 그냥 SCOPUS 저널에 제출 (SCI 제출할 정도로 노력을 기울이진 않았음) - SW마에스트로 하면서 제출했었던, NVIDIA TensorRT 컨트리뷰션 성공
- 보낸지 오래되서 까먹었던 PR이 뜬금없이 새벽에 NVIDIA 팀에게 LGTM을 받았을 때의 쾌감이란..! - 군대 + 취업의 일반적인 컴공 취업 테크를 탄 동기들을 보며 전문연구요원의 길을 의심
- 15학번 동기들이 대학원 진학한 친구들 외에는 모두 대기업/네카라쿠배/금융권으로 취업함(한명도 빠짐없이..)
- 그들의 연봉을 들으며 전문연구요원 평균 연봉과 비교해보면서 자괴감을 느꼈다... - 외부 업체와 NLP 외주 계약!
- 6개월간 Domain Specific BERT를 만들고, 특정 Domain의 문서를 분류, 요약하는 프로젝트
- 어마어마한 양의 고품질 데이터를 얻었다. (4TB)
2분기 (4월 ~ 6월)
- 성공적인 다이어트 진행
- 과도하지 않은 식단 조절 (일반식에 밥만 절반 + 군것질, 탄수화물 자제, 닭가슴살 섭취)
- 꾸준히 걷기 (10000~30000보 천천히 걷더라도 매일 매일 걷기)
- 다이어트 시작 3개월만에 10kg 감량 달성! (근육량 증가, 체지방만 감소)
- 바지 사이즈 (36 -> 32)
- 상의 사이즈 (110 -> 100)
- 주변에서 살 빠졌다고 격려를 잔뜩 받아 자존감 상승 - 디파이 투자 개시
- Defi가 대세라는 것을 알고는 있었지만, 참여를 안하고 있었는데 결국 투자를 감행
- 제주도 학회 출장 중에 BUNNY 코인 해킹 사건 발생 ㅠㅠ
- 투자하지 말걸.... - JIPS 논문 메이저 리비전
- 리뷰어들이 사실상 내용을 싹 다 갈아엎기를 바랬음
- 하라면 해야지..... 논문 내용 전체 수정 및 추가 실험 진행
- LSTM + SVM, OC-SVM 등등 다양한 모델을 통해 기기 Anomaly Detection 진행
- 해당 내용 추가하여 논문 대거 수정
- 최종 Accept! - 즐거운 여행들!
- 고등학교 친구들과 함께 떠난 여수-순천 여행!
- 5월 광주 학회 출장
- 5월 제주도 학회 출장
- 6월 제주도 학회/연구실 워크샵 - SW마에스트로 장관상 수상
- 코로나 때문에 밀리고 밀려서 6월이 되어서야 장관상 시상식이 진행됨
- 정장 풀 세트 사서 처음으로 정장입어봤음 - 본격적으로 헬스장 등록
- 홈트의 한계(등운동, 가슴운동 할 게 없음...)를 느끼고 헬스장 등록!
3분기 (7월 ~ 9월)
- 다이어트 대성공!
- 식단 조금 느슨하게 가끔씩 치킨도 먹고, 군것질도 함
- 헬스장 루틴 만들고 습관화 완료
- 1월대비 -15kg 달성! - NLP 외주 프로젝트 본격적으로 진행
- 데이터가 너무 많아서 웬만한 GPU로는 어림도 없음 => TPU 시도
- 삽질 무한 반복, 그래도 어마어마하게 성장한 계기
- Tesla V100 2대로는 1달 가까이 걸리던 학습 시간을 TPU를 사용하여 일주일 정도로 대폭 향상시킴 - DeepFake 탐지 후속 연구
- NLP TPU로 학습 돌려놓고 결과 나오는 동안 DeepFake 연구 진행
- Vision Transformer(ViT)가 굉장히 핫하길래 DeepFake 탐지에 적용시도
- 정확도 자체는 엄청나게 낮았지만, CNN과 굉장히 다른 양상의 탐지 결과 발견
- 측면 얼굴, 그림자 진 얼굴, 저화질 영상에서 CNN 대비 매우 높은 Generalization 성능을 확인
- CNN + ViT를 Weighted Majority Voting Ensemble로 합쳐볼까? => 유의미한 성능 향상 확인 => 논문거리가 됨
- IEEE Access (SCI Journal) 제출
- 졸업논문 주제로 삼기로 결정 - 전문연구요원 취준 시작
- 자기소개서 작성
- TOEIC 성적 안보고 OPIC만 보는 기업들이 있어서 100% 무베이스로 OPIC 급하게 신청해서 시험 응시, IM2 취득
- SW마에스트로 멘토님께서 많은 기업을 알아봐주셨고, 나를 맘에 들어하시는 기업체들 만나서 면접 진행, 2개 기업 합격(근데 만족 X)
4분기 (10월 ~ 12월)
- NLP 프로젝트 연장
- 성능에 욕심이 생겨서 혼자서 연구 추가적으로 더 진행 (MLOps 강의 듣고 실험 자동화 진행)
- 기존 BERT대비 8%이상 증가한 분류 성능과 실제 전문가(사람)을 뛰어넘는 분류 정확도
- 문서 요약까지 그럴듯하게 구현 성공
- 성공적으로 프로젝트 마무리 - 논문 리뷰 및 구현 시작
- 딥러닝 연구자로써 취준을 하려면 필수인 논문 리뷰와 구현을 시작
- ResNet, VGG, ResNeXt, Bag of Tricks 등등 다양한 논문 구현 진행 - DeepFake 논문 Access 까임 ㅠ
- 너무 SOTA 이긴 것만 강조해서 리뷰어 한 분이 맘에 안들어함. (충분히 납득 가능한 이유였음)
- 다른 리뷰어분들은 나름 호평해줬는데, 리뷰어 한명이 강하게 반대하면 일단 Reject 당하는 구조인듯...
- 리뷰 내용 보완 및 실험 추가해서 논문 재작성 -> 논문 퀄리티가 전보다 좋아짐
- 허접하지만 추가 실험에서 나름대로 유의미한 결과를 보여줬기에 과감하게 CVPR 내보려고 했으나, 제출 기한 3일 지남 : (
- 취업 후에도 논문 때문에 얽매이기 싫어서 SCI 저널 제출 결정 - 졸업 논문 준비
- 미리 써둔 논문이 있었으니, 그냥 그대로 졸업 논문 작성 (언어만 국문으로 바꿔서)
- 논문 발표 준비 - 취업 스트레스!
- 본격적으로 코딩테스트 공부 시작(14일동안 하루 10시간 이상씩 앉아서 알고리즘만 풀음. 연구실 후배 민상이(Tony9402)의 알고리즘 공부용 레포가 큰 도움이 됐음
- 전문연구요원을 못가면 어떡하지라는 거대한 불안감, 일종의 학벌 컴플렉스(탑티어 논문 실적 빠방한 탑스쿨 졸업생들과의 비교)
- 하던 운동 다 때려치고 스트레스가 너무 극심해서 폭식증에 가까운 음식 섭취(기껏 힘들게 빼놓고 다시 80kg로 돌아옴 ㅠㅠ) - 전문연구요원 최종 합격!
- Deep Learning 관련해서는 탑티어 회사라고 자부할 수 있는 성킴교수님의 회사 Upstage(업스테이지)에 6단계의 기나긴 전형을 넘고 합류하게 되었음
- 2주간 알고리즘에 반쯤 미친 연구실 후배(ACM-ICPC 19위)에게 추천받은 문제를 유형별로 다 풀어봄
- Upstage 알고리즘 코딩 테스트 올솔 성공!
- ML 코딩 테스트는 4일간 잠을 아예 안자며 다 쏟아부어 실험, 합격!
- 기술 면접 때는 진행했던 프로젝트들 쭉 설명하는 위주로 진행, 합격!
- 만족스러운 조건의 오퍼레터를 받고 합류 최종 결정
- 회고를 달성하는 현재 (2022년 1월)기준 근무중!
총평
정말 바쁘게 살았던 한해였다.
다이어트도 꽤나 사람 스트레스 받게 하는데다가, NLP 외주 프로젝트만 해도 꽤 빡셌는데, DeepFake 후속 연구까지 추가로 진행을 했으니....게다가 취준까지...
취준 스트레스가 이렇게 큰 줄 몰랐다.물론 운이 좋아서 내가 가장 가고 싶었던 회사에 한 번에 붙어버려서, 취준생의 고충을 논하는 것이 우습게 보일 수도 있겠지만, 정말 머리카락이 막 빠질 정도로 심하게 스트레스에 시달렸다. 그리고 왜 취준생들이 자존감이 낮아지는지 절실하게 체험할 수 있었다. 자꾸만 나보다 우월한 사람과 나 스스로를 비교하며 한 없이 작아졌던 시기인 것 같다. 개인적으로는 인생 최악의 암흑기.
올 한해는 그래도 열심히 살았다고 스스로 인정할 수 있을 것 같다.내년에도 또 내 스스로 한계를 깨부실 수 있는 시간을 가졌으면 좋겠다.
근데 너무 아쉬운 점이 한가지 있다면,기껏 열심히 다이어트 해놓고 마지막에 너무 풀어진 게 조금 아쉽다.계속 건강하게 운동하고 그랬으면 -20kg도 충분히 도전해볼 수 있었던 것 같은데...
2022 목표!
- 회사 생활 빠르게 익히고 회사에 기여할 수 있는 직원되자!
- 다이어트 다시 진행하고 근육 좀 키워보자!
- 클라이밍, 스키, 스쿼시 등등 다양한 활동 취미를 가져보자!
'About Me > 일상' 카테고리의 다른 글
[대회 / 후기] ICDAR IHTR 1위 달성! (1) | 2023.04.25 |
---|---|
[논문영문교정] 해외 저널 논문 영어 교정 후기 (1) | 2021.10.20 |
[잔여백신 / 화이자] 20대 화이자 잔여백신 후기, 예약 팁 (0) | 2021.07.28 |