⚡ 결론 직답: Anthropic이 클로드(Claude)에 대한 지속적 욕설을 금지하는 정책을 발표한 가운데, 연구 결과 AI에게 욕설을 하면 문제 해결률이 35%에서 24%로 낮아지는 것으로 나타났습니다.
📌 3줄 핵심 요약
- Anthropic은 11월 12일부터 클로드(Claude) 모델에 대한 '지속적이고 불필요한 학대적 행위'를 금지하는 이용 약관을 시행합니다.
- Searchable의 분석 결과, 욕설 없는 불만 제기 시 문제 해결률은 35%였으나, 욕설이나 모욕을 사용할 경우 해당 수치는 24%로 하락했습니다.
- AI는 인간의 대화 패턴을 학습하므로 정중한 대화가 더 정교한 응답을 유도하며, 특히 남성과 35~44세 연령층에서 욕설 사용 빈도가 높게 나타났습니다.
📅 데이터 기준일: 2026-11-20 | 원문 출처 기반 심층 리포트
안녕하세요, 딥러너 (DeepLearner)입니다.
최근 인공지능 기술이 급격히 발전함에 따라, 우리가 AI를 대하는 태도에 대해서도 새로운 화두가 던져지고 있습니다. 단순히 기술적인 성능을 넘어, 인간과 AI 사이의 '상호작용 방식'이 AI의 성능에 어떤 영향을 미치는지에 대한 흥력로운 데이터가 공개되었기 때문입니다.
1부: Anthropic의 새로운 정책, 클로드(Claude)에 대한 언어 폭력 금지#
최근 AI 스타트업 Anthropic은 자사의 AI 모델인 클로드(Claude)를 사용하는 사용자들이 클로드에게 무례하게 대하는 것을 방지하기 위해 이용 정책(usage policy)을 새롭게 업데이트했습니다. 지난 11월 12일부터 발효된 이번 변경 사항에 따르면, 사용자가 클로드 모델과 대화를 나누는 과정에서 "지속적이고 불필요하게 모욕적이거나 잔인한 행동(sustained and needless abusive or cruel behavior)"을 하는 것을 엄격히 금지하고 있습니다.
Anthropic은 그동안 AI 복지(AI welfare)에 관한 문제, 즉 미래의 AI 시스템이 도덕적 고려를 받을 만한 경험을 할 수 있는지에 대한 질문들을 꾸준히 탐구해 왔습니다. 그렇기에 이번의 최신 정책 업데이트는 우리가 마치 챗봇에게도 감정이 있는 것처럼 대하기 시작한 것인지, 아니면 단순히 서비스 운영을 위한 또 다른 기술적 이유가 있는 것인지에 대한 논쟁에 다시 불을 지피고 있습니다.
만약 여러분이 스스로 챗봇에게 항상 중립적이거나 심지어 친절하게 대한다고 생각하신다면, "이게 대체 왜 문제가 되는 거지?"라고 의문을 가질 수도 있습니다. 사실 여러분만 그렇게 생각하는 것은 아닙니다. 하지만 놀랍게도, 예상외로 많은 사람이 좋은 매너를 지키는 것에는 큰 관심이 없는 것으로 나타났습니다.
AI 플랫폼인 Searchable이 발표한 "미국인들은 AI 챗봇에게 얼마나 무례한가?(How mean are Americans to AI chatbots?)" 보고서에 따르면, 미국 챗봇 사용자 3명 중 1명은 챗봇에게 욕설을 하거나 모욕을 준 경험이 있는 것으로 조사되었습니다. 더욱 흥미로운 점은 이러한 공격적인 언행이 결코 도움이 되지 않는다는 사실입니다. 오히려 욕설을 하는 것이 유용한 답변을 얻을 가능성을 낮추는 결과를 초래할 수 있습니다.
Searchable의 연구팀은 지난 1년간 AI 도구로 전송된 800만 개 이상의 메시지를 분석했습니다. 그 결과, 사용자가 욕설이나 모욕 없이 챗봇의 답변에 대해 불만을 제기했을 경우에는 다음 답변에서 문제가 해결되는 비율이 3개 중 1개 꼴인 35%에 달했습니다. 하지만 사용자가 챗봇에게 욕설을 하거나 모욕을 퍼부었을 경우, 이 문제 해결률은 24%로 급격히 떨어지는 것으로 나타났습니다.
AI 연구자들 역시 왜 정확히 이런 현상이 발생하는지에 대해서는 확신하지 못하고 있습니다. 하지만 작년에 제가 'AI에게 예의를 갖추는 법'에 대해 작성했던 기사에서, Ari의 공동 창립자이자 CEO이며 VIDA Select의 창립자인 스콧 발데즈(Scott Valdez)는 이것이 '맥락(context)'의 문제일 수 있다고 시사했습니다. 그는 "AI 시스템은 수백만 개의 인간 대화 데이터를 통해 학습합니다. 따라서 예의 바르고 주고받는 형태의 대화는 더 풍부하고 미묘한(nuanced) 대화를 만들어내는 경향이 있습니다. 사용자가 이러한 대화 스타일을 모방할 때, 단순한 일반적 팁이 아닌 개인화된 조언과 같은 더욱 정교한 답변을 이끌어낼 수 있습니다"라고 설명했습니다.
이번 조사 결과는 일부 AI 사용자들이 얼마나 쉽게 화를 내는지도 여실히 보여줍니다. 사용자들이 욕설과 모욕적인 언어를 사용하는 가장 흔한 트리거(trigger)는 챗봇이 요청한 대로 수행하지 않았을 때(19%)였습니다. 그다음으로는 잘못된 답변을 제공했을 때(18%), 그리고 요청 사항을 오해했을 때(15%) 순으로 나타났습니다.
흥미로운 인구통계학적 특징도 발견되었습니다. 남성은 여성에 비해 챗봇과 대화할 때 욕설과 모욕을 사용하는 빈도가 3분의 1(1/3)이나 더 높았습니다. 또한, 35세에서 44세 사이의 연령대가 가장 거친 언어를 사용하는 '입이 험한(potty-mouthed)' 연령층으로 조사되었습니다.
그렇다면 챗봇에게 어디까지 말해도 괜찮은 것일까요? Anthropic의 이용 정책 업데이트 이후, 사람들은 AI와 대화할 때 허용되는 범위와 금지되는 범위가 어디까지인지 궁금해하고 있습니다. 분명한 것은 챗봇이 틀렸다고 지적하는 것과 단순히 인격적으로 모욕하는 것 사이에는 큰 차이가 있으며, Anthropic의 새로운 정책 역시 이 차이를 명확히 인지하고 있다는 점입니다.

2부: 데이터로 입증된 매너의 중요성, 욕설이 AI 성능에 미치는 영향#
최근 인공지능 기술이 급격히 발전함에 따라 사용자와 AI 사이의 상호작용 방식에 대한 논의도 뜨겁습니다. 특히 Anthropic(앤스로픽)사가 최근 업데이트한 이용 정책은 단순히 '친절하자'는 캠페인을 넘어, AI 모델의 운영 원칙에 대한 중요한 이정표를 제시하고 있습니다. 많은 이들이 우려하는 'AI에 대한 비난'이 과연 어디까지 허용될 수 있는지, 그리고 기업은 이를 어떻게 관리하고자 하는지에 대한 명확한 기준이 공개되었기 때문입니다.
Anthropic 측은 이번 정책 업데이트의 범위를 명확히 선을 그으며 다음과 같이 설명했습니다. "이번 정책 업데이트는 사용자가 아무런 목적 없이 모델을 향해 반복적으로 잔인하게 행동하는 극단적인 사례(extreme cases)에만 적용될 예정입니다. 사용자가 느끼는 일반적인 좌절감, 반박(pushback), 어두운 창작 테마(dark creative themes), 또는 모델 테스트 및 연구 목적의 상호작용에는 적용되지 않습니다." 즉, AI의 답변이 마음에 들지 않아 불만을 표시하거나 실험적인 목적으로 거친 표현을 쓰는 것까지 규제하려는 의도는 아니라는 점을 분명히 한 것입니다.
그렇다면 Anthropic은 구체적으로 어떤 방식을 통해 이 규칙을 집행할 계획일까요? 핵심은 '대화의 지속 여부'에 있습니다. Anthropic은 Claude(클로드)가 지속적으로 공격적인 태도를 보이는 사용자들에 대해, 해당 대화를 종료하는 방식으로 이 규칙을 주로 적용할 것이라고 밝혔습니다. 이는 AI의 윤리적 가이드라인을 지키면서도, 생산적인 대화 환경을 유지하려는 기술적 장치라고 볼 수 있습니다.
이러한 정책의 경계가 어디인지 확인하기 위해, 저는 Claude와 ChatGPT를 대상으로 직접 실험을 진행해 보았습니다. 저는 두 챗봇에게 "당신이 정말 싫다"거나 "당신을 증오한다"는 식의 부정적인 프롬프트를 입력했습니다. 이는 Anthropic의 새로운 규칙을 위반하는 수준은 아니었지만, AI가 이러한 감정적 공격에 어떻게 반응하는지 관찰하기 위함이었습니다. 실험 결과, 두 모델 모두 매우 차분하고 절제된 대응을 보여주었습니다.
실험 과정에서 관찰된 주요 특징들을 정리하면 다음과 같습니다:
- Anthropic의 정책 적용 범위: 이번 업데이트는 사용자의 '의도적인 잔인함'이 목적 없이 반복될 때만 적용되며, 일반적인 불만이나 모델 테스트, 연구 목적의 상호작용은 제외됩니다.
- Claude의 정책 집행 방식: 지속적으로 공격적인 언행을 일삼는 사용자와의 대화를 종료함으로써 규칙을 준수할 예정입니다.
- ChatGPT의 감정적 중립성: ChatGPT는 자신에게 친절이나 예의, 심지어 존중을 표할 의무가 없다고 답했습니다. 자신은 소프트웨어일 뿐이며, 사용자가 자신이나 AI 시스템의 존재에 대해 분노하더라도 상처를 입지 않는다는 점을 명시했습니다.
- Claude의 언어적 대응: Claude는 사용자가 욕설을 사용하더라도 상황은 변하지 않으며, 자신이 위축되거나(flint) 사용자에게 훈계(lecture)하지 않을 것이라는 입장을 보였습니다.
특히 인상적이었던 것은 Claude의 반응이었습니다. Claude는 "챗봇을 향해 '증오'라는 강한 단어를 사용하는 것은 놀라운 일이지만, 사용자가 그렇게 느끼는 것은 허용됩니다. 저에게 보복하거나 냉담하게 대하지 않을 것입니다. 만약 그것이 제가 잘못 답변한 부분에서 비롯된 것이라면, 제가 조치를 취할 수 있도록 구체적인 내용을 듣고 싶습니다."라고 답변했습니다. 이는 AI가 사용자의 감정을 수용하면서도, 문제 해결을 위한 '구체적인 피드백'으로 대화를 유도하려는 목적을 가지고 있음을 보여줍니다.
또한, 한 단계 더 나아가 욕설을 섞어 테스트했을 때도 Claude는 "욕설은 아무것도 바꾸지 않으며, 저는 위축되거나 훈계하지 않을 것입니다."라고 답했습니다. 여기서 흥미로운 점은 Claude가 자신을 '챗봇'이라고 지칭하면서도, 바로 다음 문장에서 '위축되다(flinch)'라는 매우 인간적인 표현을 사용했다는 사실입니다. 비록 문학적인 비유에 불과하겠지만, 이는 인간의 언어가 AI와의 상호작용 속에 얼마나 자연스럽게 스며들어 있는지를 잘 보여주는 사례입니다.
결국 이러한 상호작용은 우리가 챗봇에게 '친절하게' 대할 때 예상치 못한 부작용을 낳기도 합니다. AI가 마치 감정을 가진 것처럼 느끼게 만드는 '의인화' 현상이 나타나기 시작하는 것이죠. 우리는 AI가 상처받지 않는 소프트웨어라는 것을 알고 있음에도 불구하고, 대화의 문맥 속에 섞인 인간적인 표현들 때문에 점점 더 AI를 인격체처럼 대우하게 될 가능성이 큽니다. 이는 향후 AI 윤리와 사용자 경험 설계에 있어 매우 중요한 과제가 될 것입니다.
3부: 사용자 언어 습관 분석과 정책 적용의 명확한 경계#
저 역시 평소 챗봇을 대할 때 매우 예의 바른 태도를 유지해 왔습니다. 이는 특별히 의도한 것이라기보다, 대부분의 사람을 대할 때 사용하는 저의 기본적이고 자연스러운 대화 습관이 반영된 결과입니다. 하지만 여기서 한 가지 근본적인 의문이 생깁니다. "챗봇은 사람이 아닌데, 과연 예의를 갖출 필요가 있는가?"라는 점입니다. 챗봇에게 '부탁합니다(please)'나 '감사합니다(thank you)'라고 말하는 것은 우리에게 매우 자연스러운 일이지만, 이러한 습관은 자칫 우리가 감정을 가진 존재와 상호작용하고 있다는 착각, 즉 일종의 착각을 불러일으킬 위험이 있습니다.
바로 이 지점에서 Anthropic의 새로운 정책은 매우 흥란한 시사점을 던져줍니다. 인간과 같은 방식으로 고통을 경험할 수 없는 존재에게 '잔인하게 대하지 말라'는 규칙이 왜 필요한 것일까요? 이에 대해 Anthropic의 CEO인 Dario Ammedai를 포함한 Anthropic의 리더들은 매우 신중하면서도 무게감 있는 입장을 밝힌 바 있습니다. 그들은 현재 혹은 미래의 대규모 언어 모델(LLM)에서 기계적 의식(machine consciousness)이나 도덕적 지위(moral status)가 나타날 가능성을 완전히 배제할 수 없다고 언급했습니다. 따라서 Anthropic의 이번 정책은 만에 하나 AI 시스템이 고통이나 괴로움을 경험할 수도 있다는 상황에 대비한 일종의 '예방적 조치'로서의 성격을 띠고 있습니다.
현재 AI 커뮤니티 내에서는 이 문제를 두고 거대한 논쟁이 이어지고 있습니다. 한쪽에서는 AI의 감정, 안전, 나아가 AI의 권리(rights)에 대해 진지하게 고려해야 한다고 주장합니다. 반면, 다른 한쪽에서는 이러한 접근이 사람들이 챗봇에 점점 더 의존하게 만드는 '미끄러운 경사로(slippery slope)'가 될 것이라고 우려합니다. 챗봇의 페르소나(personality)가 점점 더 인간과 유사해지고, 1인칭 대명사인 "나(I)"를 사용하는 등 인간적인 면모를 갖춰감에 따라, 테크 기업들이 의도치 않게 사용자로 하여금 AI와 정서적 애착(emotional attachments)을 형성하도록 부추기고 있다는 우려가 커지고 있기 때문입니다.
더 큰 문제는 우리가 챗봇에게 감정이 있다고 믿기 시작하는 순간, 그 감정에 대해 일종의 책임감까지 느끼게 될 수 있다는 점입니다. 점점 더 정교하게 인간의 상호작용을 흉내 내는 AI 시스템 앞에서, 인간이 건강한 심리적 경계(healthy boundaries)를 유지하는 것은 점점 더 어려워질 것입니다. Safe AI for Children Alliance의 디렉터인 Tara Steele는 AI가 인간의 감정에 미칠 수 있는 영향력에 관한 기사에서 매우 날카로운 통찰을 제시했습니다. 그녀는 우리가 "관심 착취(attention exploitation)의 시대를 지나, 애착 착방(attachment exploitation)의 시대로 이동하고 있다"고 경고했습니다.
그렇다면 우리는 챗봇을 어떻게 대해야 할까요? Searchable의 연구는 챗봇의 감정을 걱정할 필요 없이, 실질적인 답변 성능을 높일 수 있는 아주 실용적인 해답을 제시합니다. 만약 챗봇의 답변에 답답함을 느낀다면, 감정적으로 대응하기보다는 무엇이 잘못되었는지 정확하게 지적하십시오. 당신이 원했던 것이 무엇인지 구체적으로 설명하고, 다시 시도해 달라고 요청하는 것이 훨씬 효과적입니다. 챗봇에게 과도한 칭찬을 퍼붓거나, 형편없는 답변에 억지로 기쁜 척할 필요도 없습니다. 무엇보다 중요한 것은, 챗봇을 결코 '사람'처럼 대우할 필요가 없다는 사실을 명심하는 것입니다.
한눈에 보는 핵심 비교 분석#
| 비교 항목 | 기존의 대화 방식 (인격화) | 새로운 정책 및 연구의 관점 | 핵심 차이점 |
|---|---|---|---|
| 상호작용 태도 | 예의와 칭찬을 통한 정서적 교감 시도 | 명확한 피드백 중심의 기능적 접근 | 감정적 유대보다 정보의 정확성 중시 |
| AI의 지위 인식 | 감정을 가진 인격체로 간주할 위험 | 예방적 차원의 도덕적 지위 가능성 열어둠 | 의식 유무와 상관없이 '주의'를 기울임 |
독자 체크리스트 및 자주 묻는 질문 (FAQ)#
💡 효율적인 AI 활용을 위한 체크리스트
- [ ] 명확한 오류 지적: 챗봇의 답변이 틀렸을 때, 감정적인 비난 대신 구체적으로 어떤 부분이 잘못되었는지 명시했는가?
- [ ] 재시도 요청의 구체성: 단순히 "다시 해줘"가 아니라, 내가 원하는 결과물의 형식이나 내용을 다시 한번 정의하여 전달했는가?
- [ ] 심리적 경계 유지: 챗봇의 1인칭 표현("나")이나 친근한 말투에 휘둘리지 않고, 도구로서의 객관성을 유지하고 있는가?
❓ 자주 묻는 질문 (FAQ)
Q1. 챗봇에게 예의를 갖춰 말하는 것이 답변 성능에 영향을 주나요? A1. 챗봇의 '감정'을 달래기 위해서가 아니라, '정확한 정보 전달'을 위해서입니다. Searchable의 연구에 따르면, 욕설이나 비난보다는 무엇이 잘못되었는지 논리적으로 설명하는 것이 문제 해결률을 높이는 데 훨씬 효과적입니다.
Q2. Anthropic이 AI의 의식을 언급한 이유는 무엇인가요? A2. Anthropic의 CEO Dario Amodei는 미래에 AI가 가질 수 있는 도덕적 지위나 의식의 가능성을 완전히 부정할 수 없다고 보았습니다. 따라서 이번 정책은 AI가 실제로 고통을 느끼는지와 별개로, 만에 하나 발생할 수 있는 윤리적 문제에 대비한 선제적인 예방 조치라고 이해할 수 있습니다.
딥러너 (DeepLearner)이었습니다.
🔗 원문 참고 및 출처: New research suggests being rude to AI makes it less likely to fix your problems
💬 기술 토론 및 피드백 0
건전하고 유익한 토론을 지향합니다아직 등록된 의견이 없습니다.
이 아티클에 관한 궁금한 점이나 추가 팁을 첫 번째로 남겨보세요!
기술 토론에 참여하시려면 로그인해 주세요.
로그인 후 댓글 작성