Safety Engineering for AI
자율주행 자동차 및 자율로봇과 같은 AI 기반 고위험 시스템은 오동작 시 심각한 위험을 야기할 수 있어 폭넓은 검증이 필요합니다. 하지만, 심층학습(Deep Learning) 등 훈련기법에
의존적인 현재의 AI 기술들에 기존의 테스트 기법들을 적용하기 어려운데, 이는 기존 기법들이 입력-출력 관계에 대해 정의하는 요구사양 명세에 기반하기 때문입니다. 하지만, AI는 학습
데이터에 의해서 훈련되지 명세에 의해서 개발된 것이 아니어서, 입력-출력에 대한 요구사항 명세를 작성하기 힘든 경우가 대부분입니다.
이러한 문제를 해결하기 위해서 탐색적 테스트 기법(Exploratory Test Method)이 적용될 수 있습니다. 탐색적 테스트 기법은 AI 시스템의 입력 영역에 대해서 추출/조합 기법을 적용하여
다양한 테스트 케이스를 생성하고, 그 결과를 확인하는 과정을 자동적으로 반복하면서, 통계적인 평가를 통해서 위험도를 분석함으로써, 부족한 요구사항 명세를 가지고도 폭넓은 검증을
수행할 수 있습니다.
또한 심층학습의 경우 명세가 없고 로직이 코드로 개발되는 것이 아니기 때문에 코드에 대한 구조적 커버리지 측정도 의미가 없습니다. 따라서 새로운 테스트 케이스 생성 (Test Case
Generation) 및 테스트 오라클 (Test Oracle) 전략을 수립해야 합니다.
솔루션링크는 AI 환경에 적합한 활성 커버리지 (Activation Coverage) 측정과 데이터 증강(Data Augmentation) 및 변성 시험 (Metamorphic Testing)에 기반한 검증 체계 수립을
지원합니다.