AI 휴머나이저가 몇 달 뒤면 작동을 멈추는 이유 — 그 작동 원리

한때 잘 되던 휴머나이저가 몇 달 뒤 작동을 멈출 수 있습니다. 도구가 나빠진 것이 아니라 탐지기가 넓어진 것입니다. Turnitin이 공개한 자사 릴리스 기록에는 탐지 범위가 시간을 두고 패러프레이즈된 AI 텍스트와 우회된 AI 텍스트까지 확장되어 온 과정이 남아 있습니다. 그리고 회사는 어떤 도구를 탐지하는지 공개하지 않습니다. 따라서 도구를 파는 쪽을 포함해 아무도, 어떤 도구가 언제 작동을 멈출지 미리 알려드릴 수 없습니다. 작동이 멈췄다는 사실은 일이 벌어진 뒤에야 알 수 있습니다.

이 페이지는 그 작동 원리에 관한 것이지, 영원히 버티는 도구를 찾는 페이지가 아닙니다. 그런 것은 존재하지 않으며, 그것을 약속하는 사람은 공급자 측이 의도적으로 알 수 없게 유지하는 것을 파는 사람입니다.

작동을 멈추는 현상은 하나가 아닙니다. 같은 이름으로 불리는 경험이 세 가지 있고, 서로 다른 문제입니다.

첫째, 점수가 더 이상 내려가지 않습니다. 예전에는 더 낮게 나오던 글이 이제는 같은 수준으로 나오거나, 더 높게 나옵니다.

둘째, 점수가 내려가는 대신 올라갑니다. 지적된 글을 도구에 돌리면 숫자가 잘못된 방향으로 움직일 수 있습니다. 탐지기가 이제는 바로 그런 종류의 재작성이 남기는 통계적 지문을 찾고 있기 때문입니다.

셋째, 글은 여전히 지적된 상태로 돌아오지만 더 이상 내 글 같지 않습니다. 도구가 너무 많이 바꿔서 결과물이 흔한 기계 문장처럼 읽힙니다. 그런데 그것이야말로 탐지기가 훈련된 형태입니다.

세 가지 모두 실제로 일어나는 일이고, 세 가지 모두 같은 이야기입니다. 탐지의 표적이 움직였다는 것입니다.

이 작동 원리는 소문이 아니라 기록된 사실입니다. Turnitin의 자체 릴리스 노트에는 탐지 범위가 두 단계로 확장된 과정이 적혀 있습니다.

2023년 12월, 회사는 자사 탐지기가 다른 도구로 다시 작성된 뒤의 텍스트까지, AI가 생성했을 가능성이 높은 텍스트를 이제는 다룬다고 기록했습니다. 이것이 기록으로 남은 첫 번째 확장이었습니다.

2025년 8월, 회사는 AI Writing Report의 "AI-generated only" 범주에 AI 우회 도구로 수정되었을 가능성이 있는 AI 생성 텍스트의 비율이 이제 포함된다고 밝혔습니다. 이것으로 두 번째 경로가 닫혔습니다. 생성 뒤에 텍스트를 "인간화"한다고 주장하는 도구들의 경로입니다.

발표가 두 차례 이어졌고 방향은 하나입니다. 도구를 거친 텍스트라는 범주가 계속해서 탐지기가 찾는 대상에 포함되고 있습니다. 휴머나이저의 결과물은 정의상 도구를 거친 텍스트입니다. 탐지기가 잡도록 훈련되는 범주가 바로 그것입니다.

탐지기가 넓어지고 있다면 자연스럽게 이런 질문이 생깁니다. 내 도구는 언제 작동을 멈출까요? 솔직한 답은, 누구도 미리 알 수 없다는 것입니다. 그리고 회사 스스로가 의도적으로 그 상태를 유지하고 있습니다.

Turnitin은 자사 탐지기가 주요 패러프레이즈 도구와 우회 도구를 탐지하도록 훈련되고 시험되었다고 밝힙니다. 다만 이런 도구의 이름은 공개할 수 없다고 합니다. 목록을 공유하면 학생들이 시스템을 더 쉽게 피할 수 있기 때문입니다. 그다음 문장에서는 제품팀이 탐지 기능 확장을 위해 끊임없이 노력하고 있다고 말합니다.

여기서 두 가지 결과가 나옵니다. 첫째, 탐지 대상 도구의 목록은 애초에 비밀입니다. 따라서 어떤 판매자도 자기 도구가 지금 탐지되지 않는다고 확인할 수 없습니다. 둘째, "constantly working to expand" (끊임없이 확장하기 위해 노력한다는 뜻)는 경계가 내 일정이 아니라 판매자의 일정에 따라 움직인다는 의미입니다. 아침에는 괜찮던 도구가 다음 모델 업데이트 뒤에는 탐지될 수 있습니다. 아무도 예상하지 못했습니다. 목록을 볼 수 있도록 허락받은 사람이 아무도 없었기 때문입니다.

그래서 보증이라는 것도 구조적으로 불가능합니다. "이것은 영원히 통과할 것입니다"라고 약속하는 판매자는, 자기가 접근할 수 없는 비밀의, 계속 움직이는 목록에 달린 것을 약속하는 셈입니다.

도구가 작동을 멈추는 것은 답답한 일이지만, 도구의 실패와 점수의 의미는 구분해 둘 만합니다.

Turnitin의 자체 문서는 AI 작성 지표의 백분율을 조치의 유일한 근거로, 혹은 교수자의 확정적인 채점 기준으로 사용해서는 안 된다고 말합니다. 쓰던 도구가 더 이상 통하지 않게 된 뒤에 내 글이 지적되었다면, 그 지적은 글의 형태에 대한 통계적 신호일 뿐 나에 대한 판단이 아닙니다. 점수가 높다는 상황은 바로 공식 지침이 단독으로 판결처럼 다뤄서는 안 된다고 말하는 상황입니다.

이 구분이 중요한 이유는 다음에 무엇을 할지가 달라지기 때문입니다. 다른 도구를 쫓는 대신, 보고서를 읽고 어떤 문단이 점수를 떠안고 있는지 찾아 그 부분을 손볼 수 있습니다. 다른 도구의 재작성이 아니라 내 재작성으로 말입니다.

도구가 애초에 언젠가 못 쓰게 되도록 되어 있다면, 무엇이 남을까요?

비밀 목록에 기대지 않는 부분들이 있습니다. 먼저 보고서를 읽는 것, 가장 강하게 지적된 문단을 직접 다시 쓰는 것, 그리고 구조·반복·새로운 생각 같은 글의 형태를 내 글쓰기에 맞는 방식으로 달리하는 것입니다. 이는 어떤 도구가 그 문서에 손을 댔든 아니든 똑같이 먹히는 방법들입니다.

그리고 도구가 대신해 줄 수 없는 것이 하나 있습니다. 가지고 있지 않은 정보를 더하는 일입니다. 나의 전공, 나의 데이터, 나의 논지입니다. 휴머나이저는 받은 글을 재배열할 뿐, 말해 주지 않은 세부 사항을 덧붙일 수 없습니다. 나만의 구체성을 담은 글은 읽히는 방식이 다릅니다. 그리고 그 차이는 탐지 업데이트가 쫓아가 지울 수 있는 것이 아닙니다. 통계적인 형태가 아니라 실제 내용이기 때문입니다.

이 페이지는 직접 다시 쓴 글이 절대 지적되지 않을 것이라고 약속하지 않습니다. 여기서 말하는 것은, 직접 하는 방식만이 그 수명이 탐지기의 비밀 목록에 기대지 않는 유일한 접근이라는 것, 그리고 그것은 도구의 신뢰성과는 다른 종류의 신뢰성이라는 것입니다.

휴머나이저가 작동을 멈추는 이유는 탐지기가 넓어지기 때문입니다. 공개된 일정에 따라, 의도적으로 비밀인 목록을 상대로 말입니다. 작동이 멈추는 시점을 예측할 수 있는 사람은 없습니다. 나도, 판매자도. 도구가 작동을 멈춘 것이 판결은 아닙니다. 공식 지침은 점수를 조치의 유일한 근거로 쓰지 말라고 합니다. 그리고 오래가는 방법은 어떤 도구에도 기대지 않는 방법입니다. 보고서를 읽고, 지적된 문단을 직접 다시 쓰고, 나만 아는 것을 글이 담게 하십시오.