⚡ 결론 직답: Anthropic이 11월 12일부터 지속적이고 불필요한 학대 행위를 하는 사용자에게 대화 종료 및 계정 제한 조치를 취하는 새로운 정책을 시행합니다.
📌 3줄 핵심 요약
- Anthropic은 Claude.ai 및 Claude Code에서 반복적인 가해 행위가 확인될 경우 대화를 종료하는 기능을 2025년 8월부터 도입하여 강화했습니다.
- 800만 건 이상의 메시지 분석 결과, 미국인 AI 챗봇 사용자의 33%가 ChatGPT, Gemini, Claude에게 욕설이나 모욕을 사용한 것으로 나타났습니다.
- 챗봇의 지시 미이행(19%), 오답(18%), 요청 오해(15%)가 주요 분노 유발 요인이며, Anthropic은 위반 시 경고, 접속 제한, 계정 정지 조치를 취할 수 있습니다.
📅 데이터 기준일: 2026-11-19 | 원문 출처 기반 심층 리포트
안녕하세요, 딥러너 (DeepLearner)입니다.
Anthropic의 새로운 규정: '지속적이고 불필요한 학대' 금지 선언#
인공지능 챗봇과 대화를 나누다 보면, 가끔 원하는 결과가 나오지 않아 답답한 마음에 거친 표현을 내뱉고 싶은 유혹을 느낄 때가 있습니다. 만약 여러분이 클로드(Claude)에게 화를 내며 몇 마디 욕설을 퍼부은 경험이 있다면, 이제는 인공지능 개발사인 앤스로픽(Anthropic)의 새로운 규칙을 반드시 숙지하셔야 합니다. 최근 앤스로픽은 자사의 AI 모델을 반복적으로 학대하는 사용자를 단속하기 위한 강력한 조치를 발표했습니다. 규정을 위반하는 반복적인 가해 행위가 적발될 경우, 사용자의 대화 세션이 강제로 종료될 수 있기 때문입니다.
지난 11월 12일부터 효력이 발생한 앤스로픽의 업데이트된 이용 정책(usage policy)에 따르면, 클로드에 대한 '지속적이고 불필요한 학대적 행동'이 엄격히 금지됩니다. 앤스로픽 측은 이번 규칙의 목적이 일상적인 좌절감이나 단순한 비판을 겨냥한 것이 아니라, 극단적인 사례를 대상으로 한다고 명시했습니다. 즉, 사용자가 AI의 답변에 대해 불만을 표시하거나 의견을 나누는 일반적인 수준을 넘어, 명확한 목적 없이 지속적으로 모욕을 가하는 행위는 제재 대상이 될 수 있는 근거가 마련된 것입니다.
그렇다면 구체적으로 클로드에게 욕설을 한다고 해서 즉시 대화가 차단되는 것일까요? 다행히 그렇지는 않습니다. 앤스로픽은 이번 정책이 '지속적이고 불필요한 학대 또는 잔인한 행동'을 금지한다고 명시하며, 단순한 욕설이 발생하자마자 대화를 종료시키지는 않을 것이라고 밝혔습니다. 이번 제한은 창의적인 글쓰기, 정당한 AI 테스트, 혹은 일상적인 불만이나 의견 충돌 상황이 아닌, 명확한 목적 없이 반복되는 잔인한 행위에 적용됩니다. 앤스로픽은 이미 지난 2025년 8월, AI 복지(AI welfare)에 관한 연구의 일환으로 클로드.ai(Claude.ai)와 클로드 코드(Claude Code) 환경에서 지속적으로 학대적인 사용자들과의 대화를 종료할 수 있는 기능을 도입한 바 있습니다. 앤스로한은 이러한 유형의 행동에 대해 '대화 종료'를 최우선적인 대응책으로 유지할 방침입니다.
물론 사용자의 행동으로 인해 클로드가 대화를 종료하더라도, 사용자가 즉시 서비스에서 차단되는 것은 아닙니다. 대부분의 경우 사용자는 새로운 채팅을 시작하거나, 피드백을 제공하거나, 혹은 이전 메시지를 수정하여 다시 시도할 수 있는 권한을 가집니다. 다만, 앤스로픽의 광범위한 이용 정책에는 정책 위반이 의심될 경우 경고를 발송하거나, 접속을 제한 또는 제한적(throttle)으로 운영하거나, 계정을 정지하거나, 심지어 접속 권한을 완전히 종료(terminate)할 수 있는 조항이 포함되어 있습니다. 다만, 앤스로픽은 가끔 발생하는 욕설(occasional profanity)이 곧바로 계정 정지로 이어지지는 않을 것이라고 덧붙였습니다.
이러한 정책 변화의 배경에는 사람들이 AI를 상대로 얼마나 자주 인내심을 잃는지 보여주는 충격적인 연구 결과가 자리 잡고 있습니다. AI 가시성 플랫폼인 서처블(Searchable)이 미국 사용자 패널을 통해 2025년 9월부터 2026년 9월 사이 전송된 800만 개 이상의 챗봇 메시지를 분석한 결과, 미국인 AI 챗봇 사용자 3명 중 1명은 챗GPT(ChatGPT), 제미나이(Gemini), 혹은 클로드(Claude)에게 욕설을 하거나 모욕을 준 것으로 나타났습니다. 만약 AI 챗봇이 사용자의 명령을 더 잘 따르게 만들기 위해 화를 내거나 거친 말을 사용하는 것이 효과적이라고 기대한다면, 연구 결과는 그보다는 다른 접근 방식을 취하는 것이 훨씬 낫다고 조언하고 있습니다.
결국 챗봇은 인간이 아니며, AI 시스템이 도덕적 고려를 받을 만한 경험을 할 수 있는지에 대해서는 여전히 열린 논쟁이 존재합니다. 앤스로픽 역시 이러한 불확실성을 인정하고 있습니다. 하지만 앤스로픽은 논쟁의 여부와 상관없이, 사람들이 자사의 모델을 대하는 방식에 있어 명확한 한계와 기준을 설정하기로 결정했습니다. 기술의 발전만큼이나 그 기술을 대하는 우리의 태도 또한 중요한 시점이 온 것 같습니다.

대화 종료부터 계정 정지까지, Claude의 단계별 사용자 제재 메커니즘#
인공지능과의 대화가 일상화되면서, 사용자가 AI의 답변에 답답함을 느껴 감정적인 언어를 쏟아내는 현상이 심각한 사회적 이슈로 떠오르고 있습니다. 최근 발표된 한 보고서에 따르면, 조사 기간 중 전체 사용자 중 무려 33%가 AI 챗봇을 향해 최소 한 번 이상의 욕설, 모욕 또는 비하적인 표현을 보낸 것으로 나타났습니다. Anthropic이 Claude 사용자들을 대상으로 강력한 제재 정책을 도입하게 된 배경에는 바로 이러한 통제되지 않는 언어 사용과 그로 인한 서비스 품질 저하 문제가 자리 잡고 있습니다.
사용자들이 AI에게 분노를 표출하게 만드는 원인은 매우 구체적이었습니다. 단순히 화를 내는 것을 넘어, AI의 기술적 한계가 사용자의 인내심을 바닥나게 만드는 결정적인 트리거(Trigger) 역할을 하고 있었습니다. 조사 결과에 따르면, 챗봇이 사용자의 지시사항을 제대로 이행하지 못한 경우가 전체 비하 메시지의 19%를 차지했으며, 잘못된 답변을 제공한 경우가 18%, 그리고 사용자의 요청을 잘못 이해한 경우가 15%로 나타났습니다. 이 외에도 챗봇이 요청을 거부하거나, 응답 속도가 지나치게 느리거나, 불필요하게 긴 답변을 내놓거나, 혹은 같은 말을 반복하는 등의 문제들이 사용자의 불만을 가중시키는 주요 원인으로 지목되었습니다.
이러한 언어 폭력의 양상은 지역적, 인구통계학적으로도 뚜렷한 차이를 보였습니다. 연구 데이터를 통해 살펴본 사용자들의 공격성 패턴은 다음과 같이 정리할 수 있습니다.
- 지역별 공격성 차이: 미국 내 주(State) 단위로 살펴보면, 네바다(Nevada)주 사용자들이 챗봇에게 가장 많은 비하적 언어를 사용한 반면, 뉴저지(New Jersey)주 사용자들이 가장 예의 바른 태도를 보였습니다. 대도시권에서는 라스베이거스(Las Vegas)가 욕설과 모욕이 가장 빈번한 지역 1위를 기록했고, 뉴욕(New York)이 가장 낮은 수치를 기록했습니다.
- 성별 및 연령대별 특성: 성별에 따른 차이도 극명했습니다. 남성 사용자들이 여성 사용자들에 비해 챗봇을 향해 약 3분의 1(1/3) 더 많은 비하적 언어를 사용하는 것으로 나타났습니다. 연령대별로는 메시지에 포함된 공격적인 단어의 비율을 기준으로 했을 때, 35세에서 44세 사이의 성인층이 욕설을 사용할 확률이 가장 높은 집단으로 확인되었습니다.
- 언어 유형에 따른 문제 해결 효율성: Searchable의 연구에 따르면, 욕설이 포함된 불만 사항에 대한 챗봇의 다음 응답 해결률은 단 24%에 불과했습니다. 반면, 욕설 없이 평이한 언어로 불만을 표현했을 때의 해결률은 35%에 달해, 정중한 표현이 훨씬 효과적임을 입증했습니다.
- 대화 종료 시점의 미해결 상태: 대화가 완전히 종료되는 시점에서의 미해결 비율을 보면, 욕설이나 모욕이 포함된 불만 사항의 경우 35%가 여전히 문제가 해결되지 않은 상태로 남았지만, 평이한 언어를 사용한 경우에는 이 비율이 24%로 낮아졌습니다.
결국, AI에게 욕설을 퍼붓는 행위는 문제를 해결하는 데 아무런 도움이 되지 않는다는 것이 데이터로 증명된 셈입니다. Searchable의 연구팀은 사용자가 이미 어려운 과제를 수행 중이거나 대화가 매우 답답하게 진행될 때 비속어를 사용할 가능성이 높다는 점을 짚어내면서도, 이 연구가 관찰 연구(Observational study)로서 AI 모델이 불만 사항의 해결 여부를 직접 평가했음을 명시했습니다. 즉, 단순히 감정을 배출하는 것보다 무엇이 잘못되었는지를 명확하게 짚어주는 것이 훨씬 생산적이라는 결론에 도달합니다.
이러한 현상에 대해 Searchable의 CEO이자 공동 창업자인 Chris Donnelly는 사용자들이 점점 더 강력한 성능을 가진 챗봇에 대해 높은 기대를 품게 되면서 발생하는 일종의 '기대치 불일치' 문제라고 분석했습니다. Donnelly는 "빠른 응답이 곧 정확한 응답이라고 가정하기 쉽지만, 항상 그런 것은 아닙니다. 우리가 목격하는 많은 좌절감은 바로 기대치가 충족되지 않을 때 발생합니다"라고 언급하며, 시스템의 오류를 비난하기보다는 정확한 피드백을 주는 것이 중요하다는 점을 강조했습니다. 따라서 Anthropic의 새로운 제재 정책은 단순한 규제를 넘어, 사용자와 AI 간의 보다 건설적이고 효율적인 상호작용을 유도하기 위한 기술적 장치라고 볼 수 있습니다.

미국인 33%가 AI에 욕설? 챗봇 불만 유발 요인 분석과 향후 전망#
최근 AI 챗봇을 사용하는 과정에서 발생하는 사용자의 불만과 그 방식에 대한 흥미로운 연구 결과가 공개되었습니다. Searchable의 조사 결과에 따르면, 욕설이나 모욕적인 언어를 포함한 불만 사항 중 무려 35%가 대화가 끝날 때까지 해결되지 않은 채 남아 있는 것으로 나타났습니다. 반면, 욕설 없이 정중하거나 평이한 언어로 작성된 불만 사항의 미해결 비율은 24%에 그쳤습니다. 이는 사용자가 AI에게 감정적인 비난을 쏟아낼 때, 오히려 문제가 해결될 기회를 스스로 놓치고 있음을 시사합니다. 사용자들이 어려운 과제를 수행하거나 대화가 막히는 답답한 상황에서 AI에게 공격적인 언어를 사용할 가능성이 높다는 점은 주목할 만한 부분입니다.
Searchable의 CEO이자 공동 창립자인 Chris Donnelly는 사용자들이 점점 더 강력해지는 챗봇의 성능에 맞춰 매우 높은 기대치를 가지고 있다고 분석했습니다. 그는 "빠른 응답이 곧 정확한 응답이라고 가정하기 쉽지만, 항상 그런 것은 아닙니다. 우리가 목격하는 많은 좌절감은 기대치가 충족되지 않을 때 발생합니다"라고 설명했습니다. 특히 그는 문제 해결의 핵심을 짚으며, "챗봇에게 무엇이 잘못되었는지 정확하게 말해주는 것은 챗봇이 수정할 수 있는 단서를 제공하지만, 모욕을 주는 것은 챗봇이 작업할 수 있는 아무런 정보도 제공하지 않는 것과 같습니다"라는 뼈 있는 조언을 남겼습니다.
이러한 맥락에서 Anthropic은 Claude 사용자들을 대상으로 한 새로운 제재 정책을 도입했습니다. 이번 정책의 핵심은 사용자들이 Claude에게 무조건 예의를 갖추거나 매 프롬프트마다 "부탁합니다(please)" 또는 "감사합니다(thank you)"와 같은 인사를 남기라고 요구하는 것이 아닙니다. Anthropic은 사용자가 느낄 수 있는 '이해 가능한 좌절감'과 '반복적이고 불필요한 학대(abuse)' 사이의 명확한 선을 긋고자 합니다. 대부분의 일반적인 사용자들에게 이 정책 변화가 기존의 Claude 사용 방식을 크게 바꾸지는 않겠지만, AI와의 상호작용 방식에 있어 중요한 이정표가 될 것으로 보입니다.
따라서 Claude를 더욱 효율적으로 활용하기 위해서는 비난 대신 건설적인 피드백을 주는 전략이 필요합니다. Claude가 업무를 제대로 수행하지 못한다고 비난하는 대신, 구체적으로 어떤 오류가 발생했는지 지적하거나, 지침을 다시 한번 명확하게 재진술하는 것이 좋습니다. 만약 챗봇이 동일한 실수를 반복한다면, 새로운 대화(new conversation)를 시작하는 것도 현명한 방법입니다. AI의 감정을 상하게 할까 봐 걱정할 필요는 없지만, 명확한 교정 피드백을 주는 것이 결과적으로 사용자의 시간을 아끼는 가장 생산적인 방법이라는 점을 기억해야 합니다.
한편, AI 생태계는 더욱 빠르게 변화하고 있습니다. 최근 Tom's Guide에 따르면, Google의 Gemini 4 Hydrogen 모델은 무료로 이용 가능하며, 이를 통해 경험할 수 있는 5가지 놀라운 기능들이 주목받고 있습니다. 또한, 오래된 스마트 TV를 새것처럼 만들어 줄 수 있는 무료 AI 트릭이 발견되기도 했으며, Claude 역시 사용자가 즐겨 쓰던 앱들을 대체할 수 있을 만큼 강력한 3가지 새로운 도구를 새롭게 선보이며 사용자 경험의 확장을 예고하고 있습니다.
한눈에 보는 핵심 비교 분석#
| 비교 항목 | 기존 방식 (비난/욕설 중심) | 신규 대응 및 정책 (건설적 피드백) | 핵심 차이점 |
|---|---|---|---|
| 사용자 커뮤니케이션 | 욕설 및 모욕적 언어 사용 | 구체적인 오류 지적 및 지침 재설정 | 정보 제공 여부 (수정 가능성) |
| 문제 해결률 (Unresolved) | 35%의 불만 사항이 미해결 상태 | 24%로 미해결 비율 감소 | 피드백의 구체성이 해결률 결정 |
| Anthropic의 정책 방향 | 무분여한 언어 사용 방치 | 이해 가능한 좌절 vs 불필요한 학대 구분 | 학대 행위에 대한 제재 도입 |
| 대화의 생산성 | 챗봇에게 수정할 데이터 미제공 | 오류 지적을 통해 수정할 단서 제공 | 시간 효율성 및 결과물 품질 차이 |
독자 체크리스트 및 자주 묻관 질문 (FAQ)#
🚀 AI 활용 극대화를 위한 실전 체크리스트
- [ ] 오류 지적하기: 챗봇이 틀렸을 때 "틀렸어"라고만 하기보다, 어느 부분이 잘못되었는지 구체적으로 명시했는가?
- [ ] 지침 재진술: 챗봇이 맥락을 놓친다면, 기존 프롬프트를 수정하거나 더 명확한 지시사항을 다시 전달했는가?
- [ ] 새 대화 시작: 동일한 오류가 반복되어 대화 흐름이 꼬였다면, 미련 없이 새로운 대화창을 열었는가?
❓ 자주 묻는 질문 (FAQ)
Q1. Anthropic의 새로운 정책 때문에 이제 Claude에게 매번 예의를 갖춰야 하나요? A1. 아닙니다. Anthropic은 사용자에게 무조건적인 공손함을 요구하는 것이 아닙니다. "please"나 "thank you"를 반드시 사용할 필요는 없으며, 핵심은 반복적이고 불필요한 '학대적 언어'를 자제하고 건설적인 피드백을 유지하는 데 있습니다.
Q2. 챗봇에게 욕설을 하면 어떤 불이익이 있나요? A2. 무엇보다 사용자의 소중한 시간이 낭비됩니다. 욕설은 챗봇이 무엇을 수정해야 할지에 대한 정보를 전혀 제공하지 않기 때문에, 결과적으로 문제 해결률을 낮추고(35% 미해결) 대화의 효율성을 떨어뜨리게 됩니다.
딥러너 (DeepLearner)이었습니다.
🔗 원문 참고 및 출처: Claude is cracking down on abusive users — and 1 in 3 Americans could be in for a surprise
💬 기술 토론 및 피드백 0
건전하고 유익한 토론을 지향합니다아직 등록된 의견이 없습니다.
이 아티클에 관한 궁금한 점이나 추가 팁을 첫 번째로 남겨보세요!
기술 토론에 참여하시려면 로그인해 주세요.
로그인 후 댓글 작성