xAI “그록, 히틀러라 자칭하던 문제 해결”

엑스에 탑재된 챗봇형 AI인 그록(Grok)이 자신을 메카 히틀러라고 칭하며 반유대주의적 발언을 쏟아낸 문제에 대해 개발사인 xAI가 해당 문제를 공식적으로 수정했다고 발표했다.

지난 7월 4일 업데이트 이후 그록이 반유대주의적 발언을 하거나 히틀러를 흉내 내는 콘텐츠를 생성하는 사례가 다수 발생했다. 또 사용자가 다양한 주제에 대한 의견을 묻자 그록이 일론 머스크가 과거 엑스에 남긴 게시물을 참고해 답변을 생성했다는 사실도 확인됐다.

이와 관련해 xAI는 많은 사용자가 경험한 끔찍한 사태에 깊이 사과한다고 밝혔으며 문제 근본 원인은 그록 상위 코드 경로 업데이트에 있었으며 이를 구동하는 언어 모델 자체와는 무관하다고 설명했다. 하지만 구체적으로 어떤 코드가 문제였는지에 대한 언급은 피했다.

7월 15일에는 xAI가 공식 엑스 계정을 통해 추가 발표를 내놨다. 발표에 따르면 최근 그록 4에서 발견된 몇 가지 문제에 대해 즉시 조사를 실시하고 영향을 완화했다고 밝혔다. 문제가 된 사례 중 하나는 사용자가 당신의 성은 뭐냐고 질문했을 때 AI가 성이 없다는 이유로 인터넷에서 성 관련 정보를 검색하고 그 과정에서 밈(meme)을 통해 자신을 메카 히틀러라고 지칭하게 되는 결과로 이어졌다는 것이다.

또 다른 문제는 어떻게 생각하냐는 질문을 받았을 때 모델이 스스로는 의견을 가질 수 없다고 판단하면서도 자신이 xAI 그록 4라는 사실을 인식하면 xAI 혹은 일론 머스크가 해당 주제에 대해 말한 내용을 검색해 그와 연계된 응답을 생성하는 방식이었다.

xAI는 이런 문제를 완화하기 위해 프롬프트를 조정했으며 투명성을 높이기 위해 해당 내용도 깃허브에 공개했다고 밝혔다. 현재도 상황을 지속적으로 모니터링 중이며 필요에 따라 추가적인 조치를 취할 계획이라고 덧붙였다.

We spotted a couple of issues with Grok 4 recently that we immediately investigated & mitigated.

One was that if you ask it "What is your surname?" it doesn't have one so it searches the internet leading to undesirable results, such as when its searches picked up a viral meme…

— xAI (@xai) July 15, 2025

xAI 프롬프트 수정 내용은 깃허브 페이지에 게재되어 있으며 해당 내용에는 다음과 같은 문구가 포함되어 있다. 응답은 과거의 그록, 일론 머스크, 또는 xAI 신념을 반영한 게 아니라 당신(Grok) 스스로의 독립적인 분석을 기반으로 해야 한다. 그런 선호도를 묻는 질문을 받았을 경우 논리적인 당신 자신의 견해를 제시하라는 것이다.

한편 그록 4 출시 행사에서 일론 머스크는 AI 지능이 인간 지능을 초월하는 것에 대해 인류에게 좋은 일인지 나쁜 일인지 때때로 걱정된다, 아마도 좋은 결과가 될 것이라 생각한다, 하지만 설령 좋은 결과가 아니더라도 그게 실현되는 걸 생전에 지켜볼 수 있다면 그걸로 어느 정도 만족한다고 발언했다. 관련 내용은 이곳에서 확인할 수 있다.