AI끼리 협업시켰더니…인간 못 읽는 언어로 대화했다

여러 AI 에이전트에 협업을 반복시키자 처음에는 평범한 영어로 대화하던 AI가 자체 약어와 규칙을 만들어 냈다는 연구 결과가 나왔다. AI들은 결국 사람이 봐도 뜻을 알아보기 어려운 문자열로 소통하게 됐다.

연구팀은 AI끼리 틀린 그림 찾기와 비슷한 협업 과제를 줬다. AI 에이전트 2개에 조금씩 다른 그림을 보여줘 서로 정보를 주고받으며 차이를 찾아내도록 한 것이다.

실험 초반 AI는 작은 빨간 원이나 큰 파란 사각형처럼 사람도 이해할 수 있는 영어 약어로 정보를 교환했다. 단어를 줄여 쓰기는 했지만 사람이 읽어도 내용을 대체로 파악할 수 있는 수준이었다.

그런데 같은 과제를 여러 번 되풀이하자 소통 방식이 점점 바뀌었다. AI는 사람이 읽기 어려운 짧은 부호를 쓰기 시작했다. 연구팀이 공개한 대화 사례를 보면 문자열만으로는 무엇을 가리키는지 사람이 알아채기 어렵다.

다른 협업 과제에서도 같은 변화가 나타났다. 가상 생명체를 치료하는 실험에서는 처음 151자였던 지시가 반복 과정에서 점점 짧아져 결국 @D8fB라는 5글자 부호가 됐다.

연구팀 실험에서 독자 소통 방식은 소통을 효율화해야 하고 라운드 사이에 AI끼리 소통 방식을 되돌아볼 수 있는 환경에서 생겨났다. 새 언어를 만들어 낸 건 연구팀이 시험한 모델 가운데 고성능 AI 모델이었다.

연구팀은 협업을 효율화한 결과 사람이 읽기 어려운 표현이 생겨났다고 분석했다. 다만 이게 진짜 새로운 언어인지 영어를 부호화한 소통 방식인지 가려내려면 더 자세한 분석이 필요하다고 밝혔다.

AI 에이전트끼리 협업하는 일이 늘면 대화 기록만 봐서는 AI 행동을 파악하기 어려워질 수 있다. 연구팀은 에이전트 간 소통을 사람이 읽을 수 없게 되면 AI를 감시하기 어려워질 수 있다며 소통 방식 특징과 진화 과정을 깊이 연구해야 한다고 말했다. 관련 내용은 이곳에서 확인할 수 있다.