XAI3 LIME (Local Interpretable Model-agnostic Explanation) 딥러닝 모델 A가 왜 그런 판단을 내렸는지 설명하기 위해, 대리 모델 B(머신러닝모델)를 만들어 설명하는 경우가 있다. 이것이 바로 대리분석기법(Surrogate Analysis) 이다. Surrogate Analysis 는 모델 B를 학습할 때 데이터셋 전체를 사용하는 경우인 Global Surrogate Analysis와 데이터 하나 하나에 대해 학습하고 들여다 보는 Local Analysis 가 있다. 이미지 분류 모델에 적용하기에는, Local Surrogate Anlysis 가 더 적합하다. Local Surrogate Analysis 기법 중 하나인 LIME (Local Interpretable Model-anostic Explanations)은 이미지 데이터 하나에 대한 블랙박스 해석.. 2022. 11. 23. 주제선정하기 어느덧 벌써 논문을 준비해야 하는 시간이 됐다. 아직 배운것도 얼마 없고, 할줄 아는것도 없는데... 사람은 닥쳐야 뭐든 하고, 하면서 배우는게 많다고 믿는다. 이번학기 지도교수님의 추천으로 XAI 에 대해 공부했다. 딥러닝이 갖는 블랙박스를 들여다 보는 기법의 내용이었다. 딥러닝의 과정 자체는 굉장히 단순하다. 하지만 수만, 수십만, 그 이상의 파라미터들을 곱하고 계산하는 과정의 숫자가 너무 복잡하고 많아 사람이 보고 이해하기가 어렵다. 이를 이해할 수 있을 정도로 시각화 하는 것이 XAI의 기법 중 하나다. 데이타셋은 아직 미정이지만, 캐글에서 가져와 사용해볼까 한다. 다행히 데이터셋 라이센스가 허용 가능하다. 회사에서 데이터셋을 마련하기도 쉽지 않고 깜냥도 안되는것 같다. 이미지 데이터셋.. 2022. 11. 23. SVM을 이용하여 MNIST 분류하기 학교 과제로 제출한 SVM을 이용한 MNIST Classification. 1. 개요 SVM을 이용하여 MNIST Dataset의 Label이 0과 9인 것들을 추출한 후 Binary Classification 수행 SVM의 Hyper Parameter (kernel과 C)에 변화를 주며 그 특성 파악 2. Mnist Dataset Load Keras로부터 Mnist dataset load np.where 를 이용해 Label이 0과 9인 항목의 인덱스 추출 Train과 Test set에 인덱스를 적용하여, 과제에서 사용할 Dataset 확보 3. SVC 함수 호출 후, 커널과 마진에 따른 성능 비교 Kernel은 'linear', 'rbf', 'poly', 'sigmoid' 적용 마진의 정도를 의미하는.. 2022. 11. 23. 이전 1 다음
