[포럼] if(kakao)dev2022 "실험을 잘한다는 것은 무엇일까?"

머신러닝 기술을 활용하여 비즈니스 문제를 해결하는 과정에는 많은 실험이 필요합니다.
그동안 실험하면서 시행 착오를 겪었던 것들, 중요하다고 생각한 것에 대해 공유드릴게요.

 

 

실험 시나리오

"실험 결과를 어떻게 남겨야 다음 실험에 도움이 될 수 있을까요?"

Answer  "실험에는 승부수가 있어야합니다. 이 실험이 성공할거라고 생각하는 이유 " 

단순히 성능이 좋다고 입증된 논문을 가지고 실험을 한다면, 실패 했을때 피드백을 정확하게 받을 수 없다. 스스로 가설을 세워 가설을 입증을 위한 실험으로 접근하는 것이 효율적이다.

여기서 발표자는 "문제해결의 핵심이 되는 특징, Key Feature","문제환경, Environment" 이 두가지 키워드를 꼽는다. 이것을 가지고 승부수(논리)를  만들어 실험을 진행하면 다음 실험에 도움이 되는 피드백을 받을 수 있다.

Environment는 주어진 환경을 뜻하고, Key Feature는 코드의 구성과 동작 그리고 문제 해결에 도움이 되는지를 뜻하는거 같다.

그렇다면 승부수를 잘 세우기 위해서는 내가 풀고자 하는 문제를 이해가 필요하고, 내가 구현하려는 솔루션에 이해도 깊이가 있어야한다. 

또한 어렵고 복잡한 솔루션이라면, 작고 간단한 동작부터 완성을 하고 하나씩 쌓아가는것을 추천한다. 

자연어 처리 트랜스포머 코드 구현이라고 가정한다면, 인코더안에 구성된 임베딩, 포지셔닝 임베딩, 멀티헤드셀프어탠션 등 여러 신경층들을 먼저 완성을 시켜나가야 한다는 것이다. 

실험과정에서 많은 실패를 경험한다. 실패의 골짜기에서 벗어나면 좋지만 못빠져나오고 있다면, 발표자가 제시한 승부수를 가지고 빠져나와보자.