(윕사이트 화면 캡처 사진)
[신화망 런던 6월 7일] "알파고"와 커제(柯潔)가 "인간과 로봇 간 최후의 바둑 대결"을 펼칠 것으로 예상되면서 인공 지능이 인류를 위협하거나 심지어 인류를 대체할 것인지에 대한 토론이 다시한번 이슈로 떠올랐다. "알파고"를 개발한 딥마인드(DeepMind) 회사에서 발표한 최신 논문에 따르면 공상과학영화중 로봇이 궐기하고 인류를 섬멸하는 등 유사한 상황을 예방하기 위해 인공 지능을 중지할 "킬 스위치(kill switch)"를 연구중이라고 밝혔다.
논문은 인공 지능은 진실한 세계의 복잡한 환경속에서 끊임없이 학습하기에 시시각각 최적의 상태에서만 작업할 것이란 보장은 없다고 지적하고나서 인류 통제자에게 로봇 등 인공 지능의 위험 행위를 중지시킬 "붉은색 빅 버튼"이 있어야 한다고 밝혔다. 이 버튼의 핵심은 인공 지능이 딥러닝(심화학습)의 과정에서 인류가 "킬 스위치" 버튼을 누를시 영원히 저항하지 못하도록 하는데 있다.
연구인원은 "킬 스위치" 버튼의 핵심은 로봇으로 하여금 인류 통제자가 자신을 중지시키는 행위가 일회성인 것이고 인류 통제자의 중지 명령이 악의적이지 않은, 중성적인 것으로 파악하게 하며 인류의 "중지" 행위가 인공 지능의 딥러닝 과정에서 그 어떤 기록도 남기지 않도록 하는데 있다. 궁극에 가서 연구인원은 인공 지능의 "킬 스위치" 버튼이 자체적 책략 결과로 눌러진 것처럼 설계하게 된다.
이 글은 로렌 오스 딥마인드 인공지능전문가와 스튜어트 암스트롱 옥스퍼드대학 인류미래연구소 전문가에 의해 미국 로봇지능연구소 웹사이트에 실렸다. 앞서 암스트롱은 인류의 언어는 그 미묘함으로 인해 인공 지능에 오독될 수 있다고 지적했었다. "인류가 지속적으로 고통을 감수하는 것을 중지시켜라"는 명령을 인공 지능은 "모든 인류를 소멸하라"로 해독할 수 있는 한편 "인류의 안전을 확보하라"는 명령으로 로봇은 전 인류를 감금해버릴 수 있다는 것이다. 그는 인류는 안전한 인공 지능 로봇을 창조해내기 위해 노력하는 경쟁에 처했으며 뒤처지지 않도록 반드시 1분1초를 아껴야 한다고 밝혔다.
원문출처: 신화사
추천 기사:
