서비스사업본부 보안분석팀 지재원

1. 개요

이혼을 앞두고 별거 중에 한 여자를 소개받은 남자가 있다. 그녀는 그와 음악을 듣고 대화를 하면서 남자의 말동무가 되어주고 어느 순간 남자는 그녀에게 사랑의 감정을 느끼게 된다. 그러면서 남자는 형체도 없는 그녀를 통해 진정한 사랑의 의미를 깨닫게 된다. 지금 설명한 내용은 영화 그녀(Her)에서 나오는 인공지능 ‘사만다’와 주인공 데오토르의 이야기다.

인공지능은 현재에 다양한 분야와 접목되면서 새로운 결과물을 만들어 내고 있다. 최근에는 이와 같은 변화의 흐름을 ‘4차 산업혁명’이라고 불리며 생활 곳곳에서 사용되고 있다.

2016년 1월 세계경제포럼(WEF)에서 화두로 언급된 이래 4차 산업혁명은 유행어처럼 많이 언급되고 있다. 4차 산업혁명에 대한 정의는 다양하나 4차 산업혁명에 대한 대표 키워드가 AI와 IT 그리고 융합이라는 것에는 많은 사람들이 동의하고 있다. 

앞으로는 유·무선 네트워크, 인터넷, 클라우드, 사물인터넷(Internet of Things, IoT)의 기술들이 하나로 융합되면서 방대한 양의 데이터가 생산되고 이를 수집 및 분석하기 위한 빅데이터, 인공지능 기술 등 고차원의 정보처리 능력이 필요 요소인 지능화된 산업구조로 발전할 것이다.

고차원의 정보처리 능력은 ‘4차 산업혁명’기술에만 필요한 사항은 아니다. 정보보안 분야에서도 갈수록 지능화·고도화 됨에 따라 공격의 흔적을 빠르게 분석하고 효율적인 대응전략 수립을 위해 인공지능 기술을 접목하여 대응하고자 하는 움직임이 활발해 지고 있다.

하지만 인공지능 분야는 윤리적·기술적으로 해결해야 될 문제가 산적해 있다. 그래서 행복 또는 불행의 ‘양날의 검’이 될 수 있는 인공지능의 장점과 한계에 대해 살펴보고자 한다.

2. 인공지능이란 무엇인가?

1) 인공지능의 정의

인공지능(Artificial Intelligence, AI)은 사전적 의미로 ‘기계로부터 만들어 지는 지능’으로 ‘컴퓨터 공학에서 이상적인 지능을 갖춘 존재, 혹은 시스템에 의해 만들어진 지능’을 의미한다. 다시 말해 인간의 지각, 추론, 학습능력 등을 컴퓨터 기술을 이용하여 구현함으로써 문제해결을 할 수 있는 기술이다. 

리서치 기관인 가트너(Gartner)에 따르면 인공지능을 ‘특별한 업무 수행에 인간을 대체, 인지능력의 제고, 자연스러운 인간의 의사소통 통합, 복잡한 콘텐츠의 이해, 결론을 도출하는 과정 등 인간이 수행하는 것을 모방하는 기술’로 정의하고 있다.

결론적으로는 인공지능이라는 의미는 ‘인간을 대체할 수 있는 기계 또는 지능을 갖춘 존재로부터 의사소통, 상황의 상관관계 이해 및 결론 도출 등 인간의 행동을 모방할 수 있는 기술’이라고 정리할 수 있다.

2) 인공지능의 목표

인공지능은 △인간과 같은 행동(Acting Humanly), △인간과 같은 사고(Thinking Humanly), △논리적 행동(Acting Rationally), △논리적 사고(Thinking Rationally)을 목표로 한다. 먼저 인간과 같은 행동(Acting Humanly)의 사례로는 계단을 오르는 ‘아시모’나 춤을 추는 ‘휴보’와 같이 인간과 유사한 행동을 하는 로봇이 있다. 

앞선 네 가지 중 한 가지만 만족해도 인공지능을 가지고 있다고 말할 수 있으며, 현재의 인공지능이 가장 발전된 인공지능 분야는 ‘인간과 같은 행동(Thinking Humanly)이다.

[표 1] 인공지능의 분류, 출처 : Stuart Russell, Artificial Intelligence : A Modern Approach

최근 인공지능 분야에서는 인간과 같이 특정 목표달성을 위한 논리적 사고를 위하여 정확하게 추론하기 위한 다양한 연구가 진행되고 있다. 궁극적으로 인공지능에서 나아갈 방향은 ‘인간과 같은 사고(Thinking Humanly)’가 가능한 단계라고 볼 수 있다.

3) 인공지능의 발전

인공지능은 1950년대 튜링 테스트(Turing Test)로 시작되어 전문가 시스템(Expert System), 신경망(Neural Network), 딥 러닝(Deep Learning)으로 발전해서, 최근에는 Google의 AplahGo나 의료, 가상개인비서(Virual Personal Assistants)로 범위가 확대되고 있다.

[그림 1] 인공지능의 연구 흐름

과거엔 단순한 컴퓨터 프로그램이 사람처럼 생각하고 행동하기 위해 다양한 학습이나 패턴 인식 등의 연구가 진행되어 왔지만, 입력 데이터의 변화에 따른 인식률 비율 및 효율성이 기대에 크게 못 미치는 수준이었다. 

1985년대 인간의 뇌와 동일한 구조로 동작하는 신경망(Neural Network)가 발표되었지만 XOR 연산문제를 해결 하지 못해 신경망을 다층으로 구성하는 연산방식인 딥 러닝(Deep Learning)이 발표되기 까지 상당기간 인공지능 기술의 암흑기를 갖게 되었다.

딥 러닝(Deep Learning)은 입력값에 대한 특성추출 작업이 불필요해 지면서 인식 오류율이 대폭 개선되어 인공지능 분야의 발전에 큰 흐름으로 발전하였다. 

4) 기계학습(Machine Learning)

기계학습(Machine Learning)은 명시적으로 프로그램 하지 않고, 스스로 학습 할 수 있는 능력을 컴퓨터에게 부여하기 위한 기술이다. 질문에 입력 데이터를 특정 조건으로 분류하여 스스로 답을 내도록 하는 방식이다.

예를 들어 아래의 [그림 6-2] 와 같이 8명의 키가 있을 때 “키가 큰 사람은 누구인가?”라는 질문을 할 경우 각각의 값을 비교하고 최적의 답을 내는 기술이다. 

[그림 2] 선형 분류 방법

5) 딥러닝(Deep learning)

딥러닝(Deep learning)은 머신러닝에 포함된 개념으로 ‘고층 신경망에 잘 작동하는 학습 방법론’의 총칭이다. 인공 신경망에 별도로 훈련된 은닉층(입력과 출력 사이에 가중치와 특징추출을 위한 데이터 학습 단계)을 층층이 쌓아 학습하는 방식이다. 

입력값을 입력 한 후 입력값과 가까운 수준의 단계에서는 저 수준의 특징을 인식하고 출력값과 가까운 고수준으로 갈수록 입력값에 대한 특성을 추상화하여 적은 양의 데이터로 효과적인 학습이 가능하게 된다.

[그림 3] 딥러닝 개념도

3. 인공지능(머신러닝)의 장점

1) 인간의 개입 최소화(또는 대체)

학습을 위한 지식이 필요 없거나 최소화 되므로 자동으로 인식 및 판단 할 수 있어 사람의 개입이 최소화 된다. 예를 들어 Air Asia의 경우 항공 효율성 서비스(FES)를 적용하여 항공기 운항 상황에 따른 최적의 항로를 제시하고 운항 중 수립된 정보를 분석하여 더 효율적인 운항을 지원함으로써 2014년 1년간 약 100억 원의 연료비 절감을 보았다. 이처럼 기존에 조정사의 능력에 의해 결정되던 항로도 인공지능을 통해서 의사결정 함으로써 인간의 개입이 최소화 될 수 있게 된다.

2) 개인능력 격차 완화

인공지능에 충분한 데이터와 적합한 알고리즘을 적용할 경우 비전문가가 하는 작업보다 좋은 결과를 낼 수 있어 전문가와 비전문가의 기술 격차를 줄여 줄 수 있다. 전문가만 접근이 가능한 주식시장에도 고객에게 투자자문을 해주는 로보어드바이저 (robo-advisor, 로봇(robot)과 투자전문가(advisor)의 합성어)상품을 통해서 투자전문가가 아니더라도 주식상품을 손쉽게 자문 받을 수 있게 되었다.

 

[그림 4] 로보어드바이저 프로세스, 출처 : 쿼터백테크놀로지스

3) 비용 절감 효과

적합한 알고리즘으로 작성된 머신러닝을 수행할 경우 데이터 입력 등을 제외한 모든 과정이 자동화 되어 노동비용이 극적으로 절감 될 수 있다. 일본 나가사키현의 헨나(Henn-na)호텔은 사람이 하던 업무의 70%를 자동화시켜 인건비의 3분의 1을 절감하여 저비용 호텔을 운영한 사례 등을 통해 인공지능을 통한 비용절감 효과를 느낄 수 있다.

[그림 5] 머신러닝을 적용한 헨나호텔의 프론트 모습, 출처 : 헨나호텔 공식 홈페이지

4) 자동화

프로그램을 통하여 머신러닝을 수행하고 최적의 특징을 추출할 수 있다면 악성코드 변종 등을 빠르게 구분 및 분석 해 낼 수 있다. 백신업체에서도 인공지능을 통해 악성파일을 식별하고 악성코드 감지에 대한 제품 출시 및 연구가 진행되고 있다.

4. 인공지능(머신러닝)의 한계점

1) 학습되지 않은 상황에 대하여 엉뚱한 결과도출 

학습된 모델의 해석 가능성(Readability)이라고도 불리는데 명확히 정의되지 않은 노드들(Hidden Nodes)과 노드간의 가중치(Weight)를 가지고 결과를 도출하기 때문에 입력에 대한 결과가 맞는지 틀린지를 판단 할 수 없는 단점이 있다.

예를 들어 인공지능이라는 개념을 많은 사람들에게 각인시켜준 알파고(AlphaGo)와 이세돌의 대결 중 이세돌이 놓은 78수는 신의 한 수가 되었지만 알파고는 이를 인지하지 못했지만 인간은 악수인지 묘수인지 알 수 있었던 것이 대표적인 사례로 볼 수 있다.

2) 인공지능에 대한 법적·윤리적 책임소재 문제

자율주행자동차의 사고, 자동 주식거래 시스템에 대한 규제, 의료 분야에서 오진으로 인한 피해 등 알고리즘의 실수로 불법행위나 피해가 발생했을 때 알고리즘 작성자의 책임인지, 그 시스템을 이용했던 사용자의 문제인지 인공지능 시스템의 문제인지 법적·윤리적으로 처리와 해결책에 대하여 책임소재에 문제가 발생한다.

3) 인간에 의한 시작 종료 시점 정의 필요

현재의 인공지능은 퀴즈, 체스 심지어 경우에 수가 우주의 원자 수에 달해 컴퓨터는 절대 사람을 이길 수 없다고 했던 바둑 또한 인간보다 잘한다. 하지만 인공지능은 스스로 어떤 문제를 풀어야 하는지 정의 할 수 없고 ‘잘’ 처리 한다는 의미를 설명 할 수 없는 것이 한계라 할 수 있다. 

주어진 문제를 해결하는 능력은 인간보다 뛰어나지만 문제를 정의 결과에 대한 판단을 하는 것은 인간만이 할 수 있는 능력이다.

[그림 6] 인공지능으로 구분하기 어려운 이미지, 출처 : 구글

4) 단일 기능수행만 가능(점진적 학습 불가능)

예를 들어 이미지 인식에 대해 학습을 한 가상머신이 있을 때, 음성인식 기능을 수행하고자 한다면 학습된 데이터와 새로 입력되는 데이터의 성질이 달라 기존의 학습 결과는 무의미해져 처음부터 다시 학습해야 하는 문제가 발생한다. 

5. 마무리

알파고와 같이 최근의 인공지능은 빅데이터와 딥러닝을 이용하여 놀라운 성능을 보여주었지만 경기 룰을 변경 하는등의 전혀 새로운 변수에 대하여 대응할 수 없고, 학습되지 않았거나 추론 할 수 없는 경우엔 예측하지 못하는 행동을 보였다. 인공지능은 현재까지 인간사회의 철학적이고 주관적 개념을 이해·표현 할 수 없어 기술적인 한계가 존재 하는 것이 사실이다.

그에 비해 인간의 지능은 다방면으로 강력하고 효율적이다. 인간의 뇌에는 메타인지(내가 무엇을 알고 무엇을 모르는지에 대해 모르는 것에 대해 학습하기 위한 일련의 능력)라는 능력을 통하여 알지 못하는 사실에 대해서는 빠르게 인정하고 학습방법을 찾거나, 뉴턴의 사과와 같이 전혀 관련 없는 사실들을 통해 새로운 사실을 발견하는 행위는 인간만이 할 수 있는 능력이다. 

인공지능의 장점과 한계점을 알아보았다. 어떠한 사실이나 상황에 대하여 비판적이고 합리적인 시각으로 기존의 지식을 뒤엎고 새로운 사실을 발견하는 행위를 할 수 있는 인간이 인공지능이라는 훌륭한 도구를 이용하여 특정 사실을 빠르게 분석하고, 추론할 수 있다면 앞으로의 ‘4 차 산업혁명’ 등의 변화에 빠르게 대응 할 수 있을 것이다.

6. 참고자료

[1] 한국지식재산연구원, 인공지능(AI) 기술 및 정책 동향

[2] 정보통신기술진흥센터, 주간기술동향, 인공지능 기술 동향 및 발전 방향

[3] 소프트웨어정책연구소, 기계학습의 원리, 능력과 한계

[4] 데이터전문가 지식포털, 머신러닝 및 딥러닝

[5] 과학기술정책연구원, 인공지능 시대의 법적·윤리적 쟁점

[6] 연세대학교-정보대학원 UX Lab, 인공지능의 학습 어떻게 이뤄지나

[7] 휴넷, 메타인지의 정의