돌아온 모각코 5주차 오늘의 주제는 inductive bias다. 논문을 읽다보면 자주(?) 보이는 친구인데 정확히 어떤 것을 의미하는지 파헤쳐보쟝 [Inductive bias] inductive bias는 기계 학습에서 모델이 데이터로부터 학습할 때 특정한 가정이나 선호를 가지는 경향을 의미한다. 이것은 모델이 어떤 가정이나 가중치를 선택하는 데 도움을 주는 일종의 가이드라인? 제약? 으로 작용하게 된다. 일반화의 오류에 대해서 생각해보자. 일반적으로 모델이 갖는 일반화의 오류는 불안정하다는 것과 겉으로만 그럴싸 해보이는 것으로 나뉜다. 모델이 주어진 데이터에 대해서 잘 일반화한 것인지, 혹은 주어진 데이터에만 잘 맞게 된 것인지 모르기때문에 발생하는 것이다. Models are brittle : 데이..
