공지사항

[2018 서울미래컨퍼런스] “AI 개발자의 윤리적 선택 중요”… “기술 소비의 결과 생각해야”
등록일 2018.10.22
관련링크 http://www.seoul.co.kr/news/newsView.php?id=20181019006020
18일 ‘2018 서울미래컨퍼런스’에서 제임스 배럿(오른쪽) 작가와 조승연 작가가 ‘인류의 행복과 디지털 기술’을 주제로 열띤 토론을 벌이고 있다.  정연호 기자 tpgod@seoul.co.kr

▲ 18일 ‘2018 서울미래컨퍼런스’에서 제임스 배럿(오른쪽) 작가와 조승연 작가가 ‘인류의 행복과 디지털 기술’을 주제로 열띤 토론을 벌이고 있다. 
정연호 기자 tpgod@seoul.co.kr

“고양이에게 프랑스어를 가르칠 수 없다고 하는데, 인공지능(AI) 시대에는 인간이 고양이가 되지 않을까요.”(조승연 작가)

“기업들이 AI를 어떻게 사용하는지, 안전하게 사용하는지 시민들이 늘 관심을 가져야 합니다. 또한 정치인도 AI를 규제하고 관여하도록 만들어야 합니다.”(제임스 배럿)

AI의 시대는 인간에게 유토피아인가, 디스토피아인가. 18일 ‘2018 서울미래컨퍼런스’에서 ‘인류의 행복과 디지털 미래’를 주제로 조승연 작가와 다큐멘터리 제작자 출신 작가 제임스 배럿이 진지한 토론을 가졌다.
천재로 불리는 바둑프로기사들은 인공지능 알파고와의 대결에서 사실상 완패했고, 무인시스템이 도입되며 실제 직업을 잃는 이들이 주변에서 나타나기 시작했다. 여기에 SF영화에서나 나오던 AI가 인간을 통제하는 세상이 정말 도래할 수도 있다는 예측도 적지 않다.

두 베스트셀러 작가는 이날 대담을 시작하며 미래에 대한 암울한 전망을 내놨다.

저서 ‘파이널 인벤션- 인류 최후의 발명’에서 ASI(Artificial Super Intelligence·초인공지능)가 인간을 통제하는 비관적 미래를 예상했던 배럿은 “현재 모두가 AI 경쟁에 뛰어들었는데, 지금은 각각 AI가 개별적인 영역에 장점을 갖고 있지만 멀지 않은 미래에는 연구개발 같은 분야까지 확장할 것”이라며 “결국 지능 확장을 AI가 주도하게 되며 1000만배 똑똑한 AI가 탄생할 것”이라고 말했다. 이에 조 작가는 “인간이 고양이와 토론하지 않는 것처럼 AI도 인간과 토론하지 않는 시대가 될 것”이라고 내다봤다. 배럿은 “AI를 개발하는 기업들이 윤리적인 측면에서 언제나 기술을 바람직한 방향으로 다루고 있는 것은 아니다”라고 꼬집었다.

이세돌과 알파고의 바둑 대결도 이날 대담에서 화제가 됐다. 조 작가는 “한국인에게는 트라우마를 갖게 한 사건”이었다고 말했다.

이들은 비관적인 전망을 내놓으면서도 기회 또한 있다고 역설했다. 배럿은 “구글 프로그래머들이 드론을 이용해 전쟁 중에 적군을 살해하는 국방부의 프로젝트에 초대됐는데, 결국 거절했다”면서 “AI와 인간의 윤리는 큰 차이가 없다. AI를 만드는 사람이 좋은 선택을 하면 된다”고 강조했다. 이어 “AI의 영향권에서 벗어날 수 있는 사람은 없다”면서 “우리 모두 참여해 AI로부터 행복한 결말을 이끌어내야 한다”고 덧붙였다. 이에 조 작가는 “인간이 소비자로서 가장 큰 힘을 갖고 있는 것이 아니냐”면서 “우리 손에 기술을 쥘 때마다 ‘어디에 이 기술이 쓰이는지’, ‘이 기술을 활용하면 내 삶이 나아지는지’ 등을 늘 생각해야 한다”고 화답했다.

내셔널지오그래픽과 디스커버리 등 미국과 유럽의 방송채널에서 다큐멘터리를 제작했던 배럿은 미국 내 AI 개발자와 이론가들을 만난 뒤 집필한 ‘파이널 인벤션- 인류 최후의 발명’으로 베스트셀러 작가 반열에 올랐다.

영어와 프랑스어, 이탈리아어 등에 능통한 ‘언어 천재’로도 잘 알려진 조 작가는 각종 저서와 강연으로 대중과의 접점을 넓히며 큰 인기를 누리고 있다.

안석 기자 sartori@seoul.co.kr

신형철 기자 hsdori@seoul.co.kr

 

[2018 서울미래컨퍼런스] “40만개 기사 1시간 만에 크롤링… 2020년 빅데이터로 냉·난방”
[2018 서울미래컨퍼런스] 650명 참석 성황… 블록체인 세션은 녹음하며 ‘열공’
Top