인공지능과 미래전장 (2) '설명 가능한 AI'

중앙일보

입력 2016.11.07 00:00

업데이트 2016.11.11 11:43

인공지능도 훈련이 필요

컴퓨터에게도 인공지능을 만들기 위해 ‘훈련’이 필요하다. 어린아이에게 책을 보여주고 ‘가’, ‘나’, ‘다’, ‘라’를 가르치며 학습시켜야 한글을 깨우치고 말과 글을 쓸 수 있는 것과 같다. 인공지능망을 구성하는 단계에서는 정확하고 방대한 데이터가 그런 책과 선생님의 역할을 한다. 이 때문에 알파고도 이세돌과 같은 프로바둑 기사와 대국을 통해 경험을 쌓았다. 그러나 군대와 무기를 운영하는 데이터는 얻기도 어려울 뿐 아니라 다양한 상황을 반영하지 못해 부정확하다.

인공지능은 보조, 사람의 역할 중요

이 때문에 예측할 수 없는 다양한 상황에서도 인공지능망이 정확하게 작동한다고 확신 할 수 없다. 예를 들면 인공지능 무기가 위장한 아군을 적군으로 인지하고 공격 할 수 도 있다. 사람도 피아식별을 못해 실수하는 경우가 많기 때문에 컴퓨터 알고리즘을 신뢰하기 위해서는 더욱 완벽한 인공지능이 필요하다. 따라서 아직은 인공지능 무기는 사람의 판단을 도와주는 역할로 제한되어야 하며 정확한 판단을 할 수 있는 사람이 최종적으로 무기를 사용해야 한다.

관련 기사

대안은 설명 가능한 인공지능

이런 이유로 요즘은 인공지능의 개념을 확장한 ‘설명 가능한 인공지능’(Explainable Artificial Intelligence)을 활용한다. 기존의 인공지능은 판단 결과만 알려주지만 설명 가능한 인공지능은 왜 그런 판단을 했는지 구체적인 정보를 제공한다. 이때문에 인공지능이 제공하는 정보를 바탕으로 사람이 최종 판단을 할 수 있다. 미군은 이미 인공지능 SAR레이다가 비행기나 미사일을 자동적으로 관측하고 위협으로 판단한 이유를 설명해주는 인공지능 개념을 연구한다고 알려졌다. 사람은 결과를 검토하고 최종적인 공격명령을 내리면 된다.

기사 이미지

최신 지도 정보를 실시간으로 이용해 목적지까지 도달하는 가장 효과적인 경로를 선택할 수 있다. [사진 LG유플러스]

자동차 ‘내비’도 보조적인 인공지능

이렇게 설명하는 기능이 어렵거나 복잡한 것은 아니다. 우리는 이미 운전할 때 목적지까지 도착하도록 도와주는 ‘GPS 내비게이션’을 널리 쓰고 있는데 이것에도 인공지능의 도움이 있다. 목적지를 검색하면 보통 단말기가 추전하는 ‘최적길안내’를 비롯해 ‘거리 우선’, ‘시간 우선’, ‘무료도료 우선’ 등 다양한 기준에 따른 검토 결과 중 선택할 수 있다. 대부분의 경우는 단말기가 추천하는 결과가 가장 효과적이지만 때로는 직접 운전해본 사람이 보다 좋은 선택을 할 수 있다. 사람은 인공지능이 파악하지 못한 변수와 특성을 고려할 수 있기 때문이다.

사람이 최종결정, 인공지능은 보조적 역할

사람의 선택이 여전히 중요하고 최종적이라는 것을 쉽게 확인할 수 있다. 인공지능을 군사분야에 활용할 때에도 보다 안전하고 효율적인 결과를 위해 최종적인 결정은 사람이 해야한다. 분명한 것은 인공지능을 활용하기 이전보다 편리하며 도움을 받아 보다 좋은 선택을 할 수 있다는 점에서 유용하다는 점은 변함이 없다. 다음 기사에서는 인공지능을 적용한 지상군과 해군의 무기체계 사례를 살펴보고자 한다.

* 인공지능과 미래전장 다음 순서입니다.

인공지능과 미래전장 (3) - AI 지상군과 해군
인공지능과 미래전장 (4) - AI 공군과 사이버
인공지능과 미래전장 (5) - AI 알고리즘

Mr. 밀리터리팀

 

ADVERTISEMENT
ADVERTISEMENT
ADVERTISEMENT
모비온

Innovation Lab

ADVERTISEMENT