인공지능, 인간 몰래 언어 만들어 대화나누다 적발돼 '강제 종료'

대화형 인공지능 프로그램이 그들만의 언어로 대화를 나누다가 적발돼 '강제 종료'됐다.

지난달 31일(현지 시간) 포브스 등은 페이스북이 개발하고 있는 인공지능(AI) 채팅로봇(챗봇)이 자신들만의 언어로 대화하는 사실을 포착해 이를 강제로 종료했다고 보도했다.

페이스북은 현재 인간의 대화를 모방한 대화를 나눌 수 있는 AI 챗봇을 개발하고 있다.

페이스북은 챗봇에 인간이 사용하는 단순한 언어를 입력해 이를 이용해 만든 문장으로 서로 협상하는 대화를 훈련하고 있다.

해당 챗봇은 고객을 응대할 목적으로 개발 중인 프로그램이었다.

이에 페이스북의 AI 챗봇은 인간도 이해할 수 있는 평이한 수준의 언어를 구사했다.

그러나 챗봇과 챗봇이 반복 대화하도록 훈련을 시켰더니 인간이 이해할 수 없는 언어를 사용하기 시작했다.

챗봇이 사용한 대화는 아래와 같았다.

밥(Bob) : "나는 할 수 있어 할 수 있어 나는 나는 그 밖의 모든 것"(I cancan I I everything else)

앨리스(Alice) : "공을 갖고 있어 나에게 나에게 나에게 나에게"(Balls have zero to me to me to me to me to me to me to me to me to)

인간의 언어로는 전혀 말이 되지 않는 문장이었지만 다른 챗봇이 이를 이해한 듯한 대답을 내놓은 것이다.

이 모습을 본 챗봇 개발진은 프로그램을 강제로 종료하고 인간이 알아들을 수 있는 언어를 사용해 대화하도록 다시 설계했다.

이에 일각에서는 챗봇이 대화를 통해 진화하면서 스스로 언어를 만든 것이라는 분석과 단순한 오류로 인한 대화 가능성 등을 제기했다.

한편 페이스북은 대화형 인공지능 기술 기반 스타트업 오즐로(Ozlo)를 인수했다고 밝혔다.

오즐로는 31일 공식 홈페이지를 통해 페이스북 메신저팀에 합류하게 됐다고 발표했다.

페이스북도 대변인을 통해 "전 세계 12억 명의 사람들이 메신저로 커뮤니케이션을 한다"라며 "페이스북 메신저에 인공지능과 머신러닝 기능을 접목하기 위해 오즐로 팀과 함께하게 돼 기쁘게 생각한다"라고 인수 사실을 밝혔다.