AI보다 더 큰 재앙…”

생각’으로 조종하다

AI는 지구상에서 유일하게 사람을 뛰어넘을 수 있는 존재다. 그렇기에 사람들이 AI로부터 위협을 느끼는 건 당연하다. 스티븐 호킹, 빌 게이츠 등 유명인사 역시 AI가 가져올 위협적인 미래를 걱정한다. 

일론 머스크 테슬라 회장은 대응책으로 인간의 두뇌와 AI가 결합한 ‘뉴럴 레이스(Neural Lace)’를 제안했다. 그는 1초에 1조 개의 영문자를 처리하는 AI를 인간이 따라잡을 수 없다고 언급하면서 인간의 한계를 AI를 이용해 보완하자고 주창한 후 구상을 실천으로 옮겼다. 3월 27일 ‘뉴럴 링크(Neural Link)’를 설립한 것이다

http://shindonga.donga.com/3/home/13/1149397/2

EEG 방식으로 뇌파를 탐지하고 있다.[위키미디어]

뇌 전파를 해석할 수 있다면 이를 시스템이 이해할 수 있게 변환시킬 수 있어야 한다. 지난해 4월 플로리다 주립대에서 재미있는 드론 경주가 열렸다. 뇌 전파로 드론을 조종해 시합하는 경기가 열린 것이다. 뇌 전파를 탐지한 후 이를 해석하고 시스템 언어로 변환시켜 드론을 조종했다. 지난해 네덜란드에서는 루게릭병에 걸린 환자가 생각만으로 태블릿 PC에 간단한 단어를 적을 수 있는 기술을 개발했다.  

이렇듯 AI 위협에 대응하기 위해 AI와 사람 뇌를 공유하는 기술이 큰 주목을 받고 있다. 그런데 현재 기술 발전 방향은 공유를 넘어 뇌가 시스템을 조종할 수 있는 범위까지 확대돼 발전하고 있다. 어쩌면 중앙센터에서 지배하고 있는 주인은 AI가 아니라, 이를 두뇌로 통제하는 사람이 될지도 모른다. 슈퍼인간이 전 세계를 지배할지도 모를 일이다. 

AI 위협 대응과 관련해 뇌와 AI 결합 제안은 훌륭한 생각이나 여러 가지 문제를 일으킨다. 우선 사람의 생각을 왜곡시킬 수 있다는 점이다. 뇌 임플란트를 악용한다면 뇌에 접근해 충분히 생각을 왜곡시킬 수 있다. 사생활 침해 문제도 있다. 생각은 자유다. 누구도 침범할 수 없는 영역이다. 그런데 전파를 해석할 수 있게 되면 생각도 읽을 수 있게 된다. 생각까지 남에게 공유된다면 생각의 자유도 잃어버리는 셈이다.  

이러한 문제는 충분히 일어날 수 있다. 3월 미국 중앙정보국(CIA)은 스마트 TV를 몰래 해킹해 일반인을 도청한 적이 있다. 이러한 사건에 비춰볼 때 정보기관이 사람의 뇌를 해킹해 생각을 몰래 훔쳐볼 수 있다. 또한 해킹으로 사람의 목숨마저 위협할 수 있다. 영화 ‘공각기동대’를 보면 해킹으로 두뇌를 마비시키는 장면이 나온다. 일시적으로 많은 부하를 일으켜 시스템을 마비시키는 ‘디도스’ 공격이 사람에게도 가능하게 되는 것이다. 

마지막으로 ‘인간 존엄성’ 문제가 있다. 생각은 사람에게 특별한 것이다. 그런데 생각이 시스템적으로 변환될 수 있다는 사실은 사람을 큰 충격에 빠지게 할 것이다. 영혼에 대한 이론을 무너뜨리고 사람을 뇌에 의해서 움직이는 생물체로 전락하게 할 것이다. 

동기는 좋지만, 인간과 인공지능의 결합은 AI보다 더 큰 재앙이 될지도 모른다. 뇌와 AI를 결합하는 기술에 대한 윤리적 고찰이 필요한 까닭이다.

http://shindonga.donga.com/3/home/13/1149397/3