Dogun Kim

서울시립대학교 인공지능학과 고상기 교수님의 신뢰할 수 있는 인공지능 수업을 정리임을 미리 알립니다. 신경망이 특정 조건을 만족하는지 어떻게 검증하는가를 다룬다. 아래 두 가지 방법으로 다루게 된다.Testing과 Verification을 구분하라.1. Testing and testing coverage # Neuron coverage• Why is testing coverage important? • Popular structural coverage metrics • Evaluation of structural coverage metrics • Is coverage enough? 2. Formal verification • What is formal verification? • Property verif..

서울시립대학교 인공지능학과 고상기 교수님의 신뢰할 수 있는 인공지능 수업을 정리임을 미리 알립니다. 신경망을 논리적인 언어로 표현한 다음, 그 표현을 바탕으로 여러 '정확성 속성' 관점에서 분석할 것이다.1. A specification language: 시스템의 동작을 공식적으로 기술하는 언어인 명세 언어 파트1-1) Hoare logic: 코드 실행 전후 상태를 기술하는 논리 1-2) Hoare logic in neural networks: 위 논리를 신경망에 적용2. Correctness properties of neural networks: 신경망 잘 작동하나 검증하고 싶은 속성들 # 강건한가.. 이런거2 -1) Hoare 논리로 표현한 신경망을 바탕으로 정확성을 판단할 수 있는 여러 속성들: ..