인공지능 신뢰성 제고를 위한 공개 정책세미나 현장

[디지털데일리 박세아 기자] 실제 산업현장에서 인공지능(이하AI) 시스템 개발자와 운영자가 실무적 관점에서 참고할 수 있는 개발 가이드북이 나와 주목된다. 그동안 AI 신뢰성 담보를 위한 논의가 윤리 원칙을 제시하는 것에서 그쳐왔다는 점에서 이번 가이드북은 주목해 볼 만하다.

23일 과학기술정보통신부(이하 과기정통부) 주최 'AI 신뢰성 제고를 위한 공개 정책세미나'에서는 'AI 신뢰성 확보를 위한 AI 개발 안내서'를 주제로 발표가 이뤄졌다. 이 자리에서는 AI 개발 안내서가 만들어지게 된 배경, 개발 과정과 함께 안내서 내용과 향후 계획까지 포괄적으로 다뤄졌다.

한국정보통신기술협회(TTA) AI디지털융합단 차순일 단장은 현재 국내를 포함해 각국에서 마련한 AI기술 관련 원칙이 실제 현장에서 사용되기에는 추상적이라는 점을 꼬집었다. 이런 상황을 탈피하고자 AI 윤리기준 10대 핵심요건 중 기술적 관점의 해석 및 적용이 가능한 요건을 추가로 선정해 실제 현장에서 개발자들이 사용할 수 있게끔 가이드라인을 심화시켰다는 설명이다.

이렇게 개발된 안내서는 기본적으로 품질을 담보하고, 기존 SW 및 시스템에서 요구되는 안전성과 보안성 관련 사항이 모두 담긴 것으로 보인다. 차 단장은 "매트릭스 형태로 요구사항과 검증항목을 체계화했다"며 "개발 안내서는 AI신뢰성 확보를 위한 생명주기 단계별 14개 기술 요구사항과 27개 세부 요구사항이 제시돼 있다"고 말했다.

조금 더 구체적으로 학습 모델의 편향적 출력이나 공격에 대한 대응 방안, AI 시스템 문제 발생 시 원인 추적을 통한 대응 방안 등 신뢰성 확보를 위한 주요 요구사항이 모두 반영돼있다.

차 단장은 향후 가이드라인 개발의 지향점도 공유했다. 그는 "산업 분야별 AI 개발 안내서나 신뢰성 검증을 위한 플랫폼 구축 및 시범운영이 필요하다"며 "해외 기관 협력을 통해 글로벌 경쟁력을 확보할 수 있도록 노력을 기울일 것"이라고 설명했다.

이번 AI 가이드북에 대해 아쉬운점도 논의됐다.

서울과학기술대학교 서경원 교수는 "개발 가이드북이 공유되면 중소기업은 기술 감리 등에서 많은 시너지가 제공될 것"이라고 말했다. 다만, "주관적 평가와 이해로 편차가 발생하는 문제를 해결하고, 인간과 AI 사용관점에서 운영 및 모니터링 한다면 더 완벽한 가이드북이 될 것"이라고 제언했다.

정보통신정책연구원 문정욱 센터장은 "본 개발 안내서를 활용해 각 산업별로 실제로 신뢰성 있는 AI기술을 적용할 수 있도록 정책적 인센티브가 필요할 것 같다"고 조언했다.

한편 가이드북 적용이 실제 산업현장에서 강제성은 없는 것으로 보인다. 과기정통부 이재형 인공지능기반정책과장은 "현재 가이드라인은 초기 논의가 이뤄지고 있는 상태기 때문에 수정하고 보완해야 할 점이 지속해서 생길 수 있고, 민간의 자율원칙을 우선적으로 적용할 것"이라며 "정부 입장에서 산업계의 고민과 걱정에 공감하기 때문에, 차차 사회적 규범 논의에 대응해 나가도록 할 것이고 당장 큰 우려는 안 해도 된다"고 언급했다.

출처: https://www.ddaily.co.kr/news/article/?no=226095