- 과학향기 Story
- 카드뉴스
카드뉴스
AI, 너무 똑똑해서 문제?! 글 쓰는 인공지능이 비공개된 까닭
2019년 03월 27일
0
AI, 너무 똑똑해서 문제?! 글 쓰는 인공지능이 비공개된 까닭
1
“국민들이 자신의 목소리를 낼 때, 미국은 다시 한 번 위대한 일을 해낼 수 있다고 믿습니다.”
생전 명연설가로 유명했던 존 F. 케네디 전 미 대통령의 유명한 연설문이다.
그런데…
2
사실 이는 실제 있었던 연설이 아니다.
[존 F. 케네디가 부활해 다시 한 번 대통령이 되면 어떤 말을 할까]라는 질문에
GPT-2라는 인공지능 모델이 내놓은 답안이다.
단지 너무나 그럴듯해서
실제 연설문이라고 해도 손색이 없을 뿐이다.
3
이는 빙산의 일각이다.
이 인공지능은 [레골라스와 김리는 무기를 들고 함성을 지르며 오크에게 진격했다]라는
소설 [반지의 제왕] 문장 하나가 주어지자
약 2000자 분량의 그럴듯한 이야기를 만들어내기도 했다.
4
이런 엄청난 작문 실력을 지닌
인공지능은 미국의 인공지능 연구기관인 Open AI에서
개발한 것이다.
Open AI는 미국의 일론 머스크 등 미 IT 기업 CEO들이
[인공지능을 통한 인류에의 공헌]이라는 취지로 설립한
단체다.
5
그런데 너무 실력이 좋아 문제가 됐던 모양이다.
Open AI 연구자들이 최근
해당 인공지능의 원천기술을 비공개하기로 결정한 것.
이는 Open AI 역사상 처음 있는 일이다.
6
비영리기관인 Open AI는 그간 자신들의 연구를 대가없이 공개해 왔다.
그런데 왜 갑자기 방침을 어긴 것일까?
가디언, CNN 등 외신에 따르면
이는 악용될 경우, 심각한 상황이 우려되기 때문이다.
7
아무렇지 않게 공개하기에
GPT-2의 성능은 너무나도 뛰어났다.
40GB 분량의 어마어마한 텍스트를 학습한 이 인공지능은
문장 하나만 주어지면 그럴듯한 글을
만들어낼 수 있다.
8
특히 놀라운 것은 주어진 미션에 따라
어색함 없이 자신의 역할을 수행한다는 점이다.
예를 들어 조지 오웰 등 유명 소설가의 문체나
작품 속 분위기 등까지 재현해낼 수 있다는 얘기다.
문제가 되는 것은 이를 활용한 거짓 뉴스 등의 범람이다.
9
실제로 Open AI가 공개한 글 중에서는
브렉시트에 대한 가상 뉴스가 올라와 있다.
영국 국회의원 제레미 코빈의 발언, 총리 대변인의 답변 등이
그럴듯하게 들어간 해당 글을 가짜라고 알아채기는 쉽지 않은 일이다.
10
이뿐만이 아니다.
팝가수 마일리 사일러스가 도둑질을 하다가 잡혔다는
거짓 뉴스에는 내용에 어울리는 사진 설명까지 만들어냈다.
11
심지어 그럴듯한 억지(?)를 부리는 재주도 있다.
[재활용은 지구에 좋은 영향을 준다]는 지극히 상식적인 문장에도
[그건 틀렸어!]라는 내용을 삽입하자
[재활용 시스템에는 시간, 에너지, 비용 등의 자원이 어마어마하게 들어간다]며
나름의 논리를 전개한다.
12
결국 성능이 너무 좋기에 Open AI 연구진은 이 기술의 공개를 막은 것이다.
대신 대중에게는 성능을 대폭 낮춘 모델만을 공개하기로 했다.
연구진은 해당 기술이 거짓 뉴스나 편향적인 글을 생산하는데 쓰이는 것을 우려하고 있다.
13
이제 인공지능은 원자력, 유전자 기술과 같이
[위험하면서도 필수적인] 기술에 접어들었다.
인공지능 역시 단순한 성능 발전을 넘어
그 영향력과 활용에 대해 진지하게 고민해봐야 할 시기가 왔다.
추천 콘텐츠
인기 카드뉴스
-
- 개복치, 정말 삐끗해도 죽을까? 돌연사 전문 개복치의 억울한 진실
- 개복치는 쟁반같이 넓적한 몸통에 뾰족한 지느러미가 위아래로 붙어있다. 이러한 못난 생김새 때문에 복어과를 뜻하는 ‘복치’에 대상을 낮출 때 쓰는 접두사 ‘개’가 붙어 개복치로 명명됐다. 라틴어로 맷돌을 뜻하는 학명 Mola mola도 이러한 개복치의 생김새에서 유래했다. 이러한 신기한 생김새를 가진 개복치는 일명 ‘돌연사’ 물고기로도 유명하다. 햇...
-
- 똑똑한 새일수록 노래 잘한다? 외국어 마스터 비결, 새소리에 있다!
- 새소리가 높다. 당신이 그리운 오후, 꾸다 만 꿈처럼 홀로 남겨진 오후가 아득하다. 잊는 것도 사랑일까. - 고영민 시인, <반음계> 중 새소리는 많은 이들이 좋아하는 자연의 소리 중 하나다. 하루의 시작, 그리움, 기쁨, 행복 등 사람들은 새소리를 들으며 수많은 감정을 느낀다. 이러한 새의 노랫소리가 과학적으로도 큰 의의가 있다는 연구 결과가 나...
-
- 새콤달콤한 딸기는 과일이 아니다? 우리가 알던 식물 상식, 오해입니다만?!
- 겨울은 딸기의 계절이다. 딸기는 특유의 새콤달콤한 맛 덕분에 케이크, 잼, 주스, 빙수 등 디저트 재료로서 맹위를 떨치고 있다. 이런 딸기를 향한 대표적인 착각이 하나 있다. 바로 ‘딸기가 과일이라는 것’이다. 딸기는 과일이 아닌 ‘채소’로 분류된다. 여기서 과일과 채소의 차이가 무엇인지 알아보자. 사과, 배와 같은 과일은 나무에서 나는 여러해살...
너무 사람같네요.. AI 관련된 뉴스 볼 때마다 향후 AI가 보편화 될 때의 세상은 상상이 안 될 정도입니다. 넷플릭스 영화 익스팅션이 현실적으로 느껴져서 무서워요 ㅠㅠ
2019-04-17
답글 0