앞으로 100년 안에 인공지능이 인간을 넘어설 것으로 보고 수많은 연구자들이 인공지능의 위험성에 대해 지적하고 있다. 구글은 옥스퍼드대학 인류미래연구소(Future of Humanity Institute)와 손잡고 인공지능의 잠재적 위험에 대해 연구 중이다. 그런데 이 연구소와 구글 산하 인공지능 개발 기업인 딥마인드가 새로운 논문을 통해 인간의 손으로 인공지능을 정지시키는 구조의 필요성을 주장해 눈길을 끈다.

구글은 지난 2014년 딥마인드를 4억 파운드에 인수한 바 있다. 동시에 같은 해 옥스퍼드대학 인류미래연구소와도 제휴해 인공지능이 인간에게 주도권을 빼앗지 않도록 하는 방법을 모색하기 시작했다. 딥마인드의 목적인 지능 해명(Solve Intelligence)이며 인공지능의 일반 사용을 상정해 개발을 진행하고 있다. 인류미래연구소는 다른 한편으로 인공지능에 의한 잠재적 위협에 대한 연구를 해온 것이다.

딥마인드와 인류미래연구소 측은 새로운 논문에서 인공지능이 항상 최선의 행동을 하는 건 아닐 것이라면서 인간의 감시 하에서 인공지능이 실시간으로 움직이다가 인공지능에 유해한 상황이 발생하는 걸 방지하기 위해 인공지능의 위험한 행동을 중단시킬 큰 빨간 버튼(킬 스위치)를 인간이 누를 필요가 있을지도 모른다고 밝히고 있다. 킬 스위치란 비상 정지 버튼을 말한다.





또 인간이 인공지능을 몇 번이라도 확실하게 멈추게 할 수 있는 프레임워크 구축을 주장하는 연구자들도 인공지능을 안전하게 사용하려면 정지시킬 방법이 있어야 인공지능이 잘못된 행동을 했을 때 돌이킬 수 없는 사태를 피할 수 있다고 밝히고 있다. 그 뿐 아니라 효율적인 기능을 배우지 않은 상태에서 일시적으로 작업을 중단시킬 때에도 유효하다는 것.

물론 강화학습 알고리즘인 Q러닝에선 중단을 할 수 있지만 마찬가지로 다른 강화학습에선 항상 중단이 가능한 건 아니다. 모든 알고리즘에서 확실하게 중단시킬 방법을 실현할지 여부는 아직까지는 알 수 없다.

인류미래연구소 측은 앞으로 100년 안에 인공지능이 인간을 넘어설 것으로 보고 또 인간과 적대시할 가능성도 있다고 보고 있다. 지난해 5월 열린 행사에서 연구소 측은 일단 인공지능이 인간의 지능과 동일한 수준까지 도달한다면 인간의 능력을 뛰어넘는 슈퍼 인텔리전트가 될 때까지 오랜 시간이 걸리지 않을 것으로 본다고 밝힌 바 있다. 인간과 같은 지능이 될 때까지는 시간이 걸리겠지만 이후 진화는 훨씬 빠를 것이라는 얘기다.

https://www.youtube.com/watch?v=V1eYniJ0Rnk

슈퍼 지능을 탑재한 머신은 인간이 지구상 다른 생물보다 강력한 것과 같은 이유로 강력할 수밖에 없다. 인간은 근육이 발달하거나 날카롭고 강력한 게 아니라 뇌가 발달해서 강력해진 것이다.

또 딥마인드 CEO인 데미스 하사비스 역시 한 인터뷰에서 수많은 사람들이 SF를 방불케 진화하는 인공지능에 적잖은 두려움을 느낀다면서 이를 어떻게 생각하냐는 질문에 인공지능을 통해 과학이 더 빨리 발전할 걸 기대한다면서 효과적으로 연구를 돕고 산 같은 데이터에서 구조를 찾아주는 건 물론 인간에게 필요한 돌파구를 더 빠르게 찾아낼 수 있을 것이라고 밝혔다. 딥마인드가 진행 중인 연구에 대한 자세한 내용은 알려지지 않았지만 인간의 생활을 풍족하게 만들기 위한 것이라고 밝힌 만큼 이번 연구에서 발표한 인공지능을 중단시키는 기능도 앞으로 구글이 개발할 인공지능에 구현될 가능성이 높을 것으로 보인다. 관련 내용은 이곳에서 확인할 수 있다.

이석원 기자  lswcap@techholic.co.kr

<저작권자 © 테크홀릭, 무단 전재 및 재배포 금지>