KISTI의 과학향기

2016년 3월, DeepMind의 알파고(AlphaGo)는 세계 최고의 바둑기사였던 이세돌을 이겼다. 이와 같이 신나보이는 승리는 알고리즘을 훈련시키고 무제한적인 컴퓨터의 힘을 사용한 것이지 진정한 지능에 대한 것이 아니다. MIT 로봇공학과의 전 교수이자 iRobot의 설립자 중 하나인 Rodney Brooks는 알파고가 사실 19 x 19 배열의 바둑판 내에서만 강점을 보일 뿐, 이 외에 다른 상황에서는 아무것도 할 수 없다고 설명했다. 일례로 그가 DeepMind팀에게 알파고가 29 x 29 배열의 바둑판이 주어진다면 어떻게 변화되겠냐고 묻자, 알파고 팀은 아주 작은 변화에도 "우린 죽었을 거예요"라고 답했다고 전했다. 이를 바탕으로 Brooks는 "제 생각에 사람들은 알고리즘이 하나의 업무만 잘 하는 것을 보고, 다른 모든 것들도 잘 할 수 있을 거라고 생각하는 거 같아요. 사실 그렇지 않은데 말이죠." 라고 설명했다.

 

 

"컴퓨터를 체스의 고수 수준으로 디자인 하는 것은 감각적 지능으로 부르는 것과는 다른 의미라고 볼 수 있습니다."라고 IBM의 Deep Blue와의 매치에서 패배앴던 체스 챔피언 Garry Kasparov는 TechCrunch Disrupt와의 인터뷰에서 밝힌 바 있다. 동시에 "체스 경기에서는 기계가 게임을 주도할 수 있습니다. 왜냐하면 기계가 무제한적으로 계산해서 충분히 크고 빠르며 똑똑한 알고리즘을 기반으로 한 데이터베이스를 가지고 게임을 진행할 수 있으니까요. 그러나 인간만이 이해하는 많은 것들이 아직 있으며, 기계들은 전략적인 패턴을 이해하지 못하고 목적 또한 없습니다." 라고 설명했다. 그러나 이에 대하여 Toyota Institute의 CEO인 Gill Pratt과 Facebook의 Mark Zuckerberg는 반대한다. 

 

 

Merriam Webster Defines에 의하면 인공지능이란 "새로운 혹은 시도되는 상황을 다루며 배우거나 이해하는 능력"이라고 언급되어 있다. 이는 인간의 지능과는 맞지 않다. Pascak Kaufmann은 기업들이 인간의 집단 지능을 이용해서 비즈니스 문제를 해결하는 스타트업인 Starmind의 설립자이다. 그는 지난 15년간 신경과학을 공부해 오며, 인간의 뇌가 컴퓨터와는 다르게 작동하는 것을 알아냈으며, 둘을 비교하는 것은 실수라고 말했다. 그는 우리가 만약 지능을 기술적인 용어로 가정한다면, 인간의 지능을 이해하는 것을 발전시키지 않을 것이라고 하면서, "인간은 알고리즘과 사랑에 빠졌어요. 그래서 알고리즘을 가지고 뇌를 묘사하고자 하는데 이것은 잘못된 생각인 것 같아요." 라고 답했다.

 

 

사실 AI의 알고리즘이 우리가 생각한 것 만큼 똑똑하지 않다는 케이스들은 꽤 많다. 별로 유명하지는 않았지만, 일례로 Microsoft Tay chatbot의 인공지능이 제어되지 못했던 것을 알 수 있다. 하루도 안 되는 짧은 시간동안 chatbot은 인종차별주의자로 트레이닝 되었다. 전문가들은 이러한 상황이 어떤 인공지능 시스템에도 나타날 수 있을 것이라고 예상한다. 이러한 예시는 우리가 인공지능 알고리즘에 대해 알기까지 아직도 많은 과제가 남아있음을 보여준다. 따라서 연구자들은 일반적인 인공지능을 개발하는데 성공하여야만 한다. 이것이 결국 변화를 만들 것이기 때문이다. 하지만 현재에는 인간이 알고리즘을 트레이닝 시키는 것보다 훨씬 어렵지만 인간이 쉽게 할 수 있는 것들을 해야 한다. 왜냐하면 우리는 주어진 업무를 배우는데 한계를 가지고 있지 않기 때문이다.