Martin Fowler — LLM을 싫어해도 써야 하는 시대의 신뢰 비용

원문: https://martinfowler.com/articles/2026-dont-like-llms.html | Martin Fowler, 2026년 9월 17일

핵심 요약

Martin Fowler는 LLM이 생산성을 높이고 사회적으로 큰 효용을 낼 수 있음을 인정하면서도, 실제로 대화할 때 느끼는 강한 불쾌감과 불신을 숨기지 않는다. 이 글의 요지는 ‘AI가 사람인가’라는 철학 문제가 아니라, 어떤 말투와 오류 양식을 가진 도구를 우리가 매일 쓰게 될 때 신뢰·검증·조직 문화가 어떻게 바뀌는가에 있다. 반응은 양분됐다. 어떤 이는 그 감각을 정확히 공감했고, 다른 이는 기계에 인간성을 투사한 모순이라고 지적했다.

효용과 거부감이 함께 성립하는 이유

AI 논쟁은 대개 두 진영의 문장으로 압축된다. ‘생산성을 혁신한다’거나 ‘위험하니 멈춰야 한다’는 식이다. Fowler의 짧은 글이 흥미로운 까닭은 그 둘 중 하나를 택하지 않기 때문이다. 그는 소프트웨어 개발의 생산성 향상, 더 빠른 제품 개발, 의학적 발견 가능성을 분명히 기대한다. 반대로 자동화된 에이전트가 기반시설에 연결될 때의 사고와 생물학적 악용도 두려워한다. 그래도 기술의 흐름에서 완전히 이탈할 선택지는 현실적으로 없다고 본다.

그런데 거시적 찬반을 지나, 그에게 가장 선명하게 남는 감정은 ‘좋아하지 않는다’는 것이다. 여기서 말하는 싫음은 성능 벤치마크의 패배 선언이 아니다. 답이 맞을 때와 틀릴 때를 같은 자신감으로 말하고, 오류를 지적하면 사과의 형식만 빠르게 되풀이하는 대화 경험에 대한 반응이다. 유용한 답변 바로 옆에 검증되지 않은 허구가 같은 목소리로 놓일 때 사용자는 단순히 한 번 틀린 도구를 만나는 것이 아니라, 판단 비용을 계속 떠안게 된다.

이 구분은 중요하다. 오류율이 낮아지는 것과 함께 일하기 편해지는 것은 같은 문제가 아니다. 계산기나 컴파일러는 오류가 나면 대체로 오류를 드러내는 방식으로 실패한다. 반면 대화형 모델은 불완전한 근거 위에서도 그럴듯한 설명을 만들어 낸다. 따라서 사용자는 결과물만 읽는 사람이 아니라 출처를 캐고, 전제를 되묻고, 그럴듯함을 의심하는 감사자가 된다. ‘더 빠른 초안’이 실제 생산성으로 이어지려면, 절약한 작성 시간이 추가 검증 시간보다 커야 한다.

말투는 장식이 아니라 인터페이스다

Fowler가 말한 불쾌함에는 이른바 언캐니 밸리의 문제가 섞여 있다. 모델은 사람이 아니지만, 사람처럼 친절하고 후회하고 확신하는 화법을 사용한다. 그는 AI를 의인화해서는 안 된다고 경고하면서도, 그 말투가 자신이 피하고 싶은 유형의 동료를 연상시킨다고 쓴다. 얼핏 모순처럼 보이지만, 제품 설계의 관점에서는 꽤 현실적인 관찰이다. 사용자가 기계의 의식을 믿어서가 아니라, 인간 대화의 신호를 닮은 인터페이스에 인간답게 반응하기 때문이다.

이 때문에 ‘표현을 조금 덜 공손하게 바꾸면 된다’는 처방은 충분하지 않다. 확신의 어조, 불확실성 표시, 반대 근거를 스스로 꺼내는 습관, 실패했을 때의 복구 방식은 모두 모델이 사용자에게 배분하는 책임의 문제다. 좋은 도구는 사용자가 언제 믿고 언제 멈춰야 하는지 쉽게 알게 한다. 반대로 친절한 장황함이 근거의 공백을 가리면, 인터페이스는 사용자를 돕기보다 과신을 유도한다.

Fowler는 한 걸음 더 나아가 모델을 자연발생적 인격체가 아니라 기업과 개발자가 만든 소프트웨어로 보라고 한다. 개별 출력이 줄 단위 규칙으로 작성된 것은 아니더라도, 학습 데이터의 선택, 보상 신호, 안전 정책, 제품의 성공 지표에는 제작 조직의 우선순위가 남는다. 그래서 ‘모델이 원했다’는 식의 설명은 책임 소재를 흐린다. 어떤 행동 양식을 허용하고 어떤 실패를 감수할지 결정하는 것은 결국 사람과 조직이다.

커뮤니티가 제기한 두 가지 반론

이 글의 Hacker News 토론에는 263개의 댓글이 달렸다. 가장 직접적인 반론은 Fowler가 의인화를 비판하면서 모델을 ‘피하고 싶은 사람’에 빗댔다는 점이다. 실제로 모델은 사람처럼 기분 상하지 않는다. 대화를 끊고 새 세션을 열 수도 있고, 틀린 답을 날카롭게 정정해도 사회적 비용이 없다. 이 관점에서는 불쾌한 성격보다 작업 흐름과 검증 절차를 잘 설계하는 편이 중요하다.

그러나 이 반론은 Fowler의 핵심을 완전히 지우지는 못한다. 어떤 댓글은 LLM과의 상호작용이 유용해도 스트레스를 높인다고 했고, LinkedIn 반응에서도 모델의 ‘기본 성격’을 계속 교정해야 한다는 피로가 언급됐다. 이는 기계가 감정을 갖는다는 주장이 아니라, 인간 사용자가 인지적·정서적 비용을 지불한다는 관찰이다. 특히 업무 도구라면 이 비용은 개인 취향을 넘어 채택률, 리뷰 품질, 번아웃과 연결된다.

다른 쪽에서는 모델이 앱 구독료를 줄여 주고 내부 업무를 빠르게 처리해 준다는 실용적 경험을 내놓았다. 맞는 말이다. 그래서 결론을 ‘싫으니 쓰지 말자’로 만들면 Fowler의 글을 오독하게 된다. 그는 유용함을 부정하지 않는다. 오히려 너무 유용하기 때문에, 그것을 어떤 태도와 통제 아래 쓸지 더 까다롭게 물어야 한다고 말한다.

더 좋은 질문: 친절함이 아니라 검증 가능성

이 글이 남기는 질문은 모델에게 더 인간적인 말투를 요구할 것인가가 아니다. 더 나은 질문은 ‘이 시스템은 사용자가 검증 비용을 감당할 수 있게 설계됐는가’다. 답변마다 근거와 불확실성을 분리해 보여 주는가, 실행 전에 변경 내용을 좁혀 검토하게 하는가, 틀렸을 때 변명 대신 재현 가능한 수정 경로를 제공하는가가 핵심이다.

개발 조직도 같은 기준을 적용할 수 있다. AI 산출물을 늘리는 지표만 세지 말고, 오류 발견까지 걸린 시간, 사람이 실제로 읽은 비율, 되돌린 변경의 이유를 함께 봐야 한다. Fowler의 개인적 거부감은 결국 제품과 조직에 대한 매우 실무적인 요구로 번역된다. 우리가 원하는 것은 사람을 흉내 내는 동료가 아니라, 신뢰의 경계를 선명하게 보여 주며 인간의 판단을 더 잘 만들도록 돕는 도구다.