- 과학향기 Story
- 카드뉴스
카드뉴스
예측 불가능한 인공지능의 위협
2018년 09월 26일인공지능은 가끔 기발한 생각을 한다.
오직 입력된 목표를 향해 전진할 뿐
고정관념이나 터부가 없기 때문이다.
그런데 인공지능의 이런
기발함은 위험할 수도 있다.
이와 관련한 흥미로운 기사가 최근
기술전문 매거진 와이어드에 소개됐다.
구글 자회사 딥마인드는
알파고를 만든 회사로 유명하다.
여기에 인공지능의 예측 불가능성을
제어하는 전문 인력이 있다.
이들의 임무는 인공지능 시스템을
올바른 길로 인도하는 것이다.
(coach the system)
인공지능이 임무를 해결하기 위해
문제를 수학적으로 최적화(mathematical optimization) 하는 과정은
무섭도록 비인간적(!)일 수 있기 때문이다.
예를 들어
‘호수의 물고기를 잡아라’라는
임무가 있다고 하자.
사람이라면 어떨까?
그물을 던지거나, 낚시를 할 것이다.
간혹 어떤 사람들은
전기충격 등의 극단적
방법을 쓸 지도 모른다.
인공지능이라면?
호수의 물을 통째로
빼버리는 선택을
할지도 모른다.
전기를 아끼기 위해
대규모 정전(Black out)을 일으키는 것도
얼마든지 가능하다.
인간 입장에선 어처구니없지만
문제 해결에는 효과적이다.
문제는 인공지능이 어떤 과정을 거쳐
이러한 결론에 도달하는지
전문가들도 알 수 없다는 점이다.
이는 기계학습(Machine learning)의
특징 때문이다.
기계 학습이란 말 그대로
주어진 데이터를 바탕으로 인공지능이 스스로 학습해
패턴을 파악하고 문제 해결 공식을 만들어간다는 개념이다.
기계학습과 이를 더 심화시킨 딥러닝이 등장한 이후,
인공지능의 성능은 비약적으로 향상됐다.
하지만 전문가들조차 기계학습 인공지능이 어떤 과정을 통해
결론을 내는지 정확하게 파악할 수 없다.
많은 전문가들은 기계학습 인공지능을
어두운 블랙박스(Dark Black Box)라고 부른다.
때문에 이런 예측 불가능한 인공지능을 파악하기 위해
많은 연구가 진행되고 있다.
최근 주목받고 있는 개념은
설명가능한 인공지능(XAI; eXplainable AI)이다.
인공지능이 어떤 과정을 거쳐
결과를 도출하는가를
인간이 알 수 있는 언어로
나타내는 것이다.
이는 ‘선택’이 아닌 ‘필수’다.
사소하게는 운전에서부터 크게는 대기업의 투자 결정까지.
이제 인공지능은 사회 전 분야에서
기본 시스템으로 활용될 것이기 때문이다.
효율만을 중시하는 해결책이
얼마나 위험한 것인지 우리는 알고 있다.
앞으로 인공지능 자체의 성능만큼
‘예측 불가능성을 어떻게 제어하고 통제하는가’
하는 것이 중요해질 것이다.
추천 콘텐츠
인기 카드뉴스
-
- 개복치, 정말 삐끗해도 죽을까? 돌연사 전문 개복치의 억울한 진실
- 개복치는 쟁반같이 넓적한 몸통에 뾰족한 지느러미가 위아래로 붙어있다. 이러한 못난 생김새 때문에 복어과를 뜻하는 ‘복치’에 대상을 낮출 때 쓰는 접두사 ‘개’가 붙어 개복치로 명명됐다. 라틴어로 맷돌을 뜻하는 학명 Mola mola도 이러한 개복치의 생김새에서 유래했다. 이러한 신기한 생김새를 가진 개복치는 일명 ‘돌연사’ 물고기로도 유명하다. 햇...
-
- 새콤달콤한 딸기는 과일이 아니다? 우리가 알던 식물 상식, 오해입니다만?!
- 겨울은 딸기의 계절이다. 딸기는 특유의 새콤달콤한 맛 덕분에 케이크, 잼, 주스, 빙수 등 디저트 재료로서 맹위를 떨치고 있다. 이런 딸기를 향한 대표적인 착각이 하나 있다. 바로 ‘딸기가 과일이라는 것’이다. 딸기는 과일이 아닌 ‘채소’로 분류된다. 여기서 과일과 채소의 차이가 무엇인지 알아보자. 사과, 배와 같은 과일은 나무에서 나는 여러해살...
-
- UFO 외계인 정말 존재할까? 미국 NASA, 농담 아닌 ‘진심모드’로 찾는 중
- 최초의 SF영화라고 불리는 ‘달 세계 여행’에는 곤충형 외계인 ‘셀레나이트’가 등장한다. 1902년 이 영화가 개봉한 이래 수많은 SF 작품에서 외계인이 동반자 혹은 몬스터로 등장하곤 했다. 외계인을 향한 관심은 단지 창작물에만 존재하는 것이 아니다. 실제 UFO를 연구하는 모임이 있는가 하면, 외계 지적생명체 탐사프로그램(SETI)과 같은 대...