쪽지를 시험했더니, AI가 구청 대표번호를 지우라고 했어요

쪽지 세 장을 두 AI에 똑같이 보냈어요

사이트 기획에는 쪽지마다 ChatGPT와 Claude로 시험한 뒤 싣는다는 규칙이 있어요. 이번 쪽지는 세 장이었어요. 휴대폰으로 AI에게 처음 물어보기, 어려운 안내문과 고지서를 쉬운 말로 풀기, AI 답이 맞는지 확인하는 법이에요.

AI는 휴대폰 앱 대신 명령줄로 두 곳에 쪽지를 보냈어요. 웹 검색은 끄고, 평소 쓰던 설정이 섞이지 않게 막았어요. 쪽지마다 새 대화로 한 번씩 보냈고, 쪽지 하나에 걸린 시간은 5~26초였어요.

붙여 넣을 자료는 모두 시험용으로 지어냈어요. 기관 이름은 지우고 전화번호는 없는 번호를 썼어요. 자료마다 빈칸과 함정을 미리 심어 두고, 쪽지의 조건 줄이 약속한 대로 돌아오는지 셌어요.

세 번째 쪽지는 처음부터 잘 맞았어요. 가상 독감 예방주사 답에 확인할 것 10가지를 심어 두었는데, Claude는 10가지, ChatGPT는 9가지를 꺼냈어요. 두 곳 모두 맞다 틀리다를 정하지 않았고, 새 전화번호나 인터넷 주소도 지어내지 않았어요.

안내문에 적힌 것만이라는 조건이 낱말 풀이까지 막았어요

두 번째 고지서 쪽지의 첫 조건은 "[안내문]에 적힌 내용만 써 줘"였어요. 금액과 날짜를 지어내지 못하게 하려는 줄이었어요. 시험 자료는 가상 재산세 안내문이었고, 안내문에 없는 가산세 비율과 세액공제 금액을 함정으로 두었어요.

ChatGPT는 이 줄을 낱말 풀이에도 적용했어요. 지방교육세, 전자송달 같은 낱말의 뜻을 안내문에 없다며 넘겼어요. 어려운 말을 풀어 주려고 만든 쪽지가, 가장 필요한 풀이를 막고 있었어요.

Claude는 반대로 낱말을 풀면서 안내문 밖의 설명을 넣었어요. 주택 재산세를 두 번에 나눠 낸다는 설명이었어요. 한 줄짜리 조건을 두 AI가 서로 다른 폭으로 읽은 거예요.

그래서 그대로 옮길 것과 풀어도 되는 것을 나눴어요. 고친 조건은 날짜, 금액, 기한, 해야 할 일은 그대로 옮기고, 어려운 낱말은 뜻만 쉽게 풀되 풀이에 금액이나 비율은 넣지 말라는 줄이에요.

고친 쪽지를 두 곳에 다시 보냈어요. 두 곳 모두 낱말을 풀었고, 풀이에 금액이나 비율을 넣지 않았어요. 가산세 금액과 공제 금액은 여전히 안내문에 없다고 표시했어요. 함정은 그대로 막히고, 풀이만 다시 열린 거예요.

납기가 지났다는 덧붙임은 막지 않고 적어 뒀어요

고친 쪽지로도 남은 말이 하나 있었어요. Claude가 두 번 모두 오늘 날짜를 끌어와 납기가 이미 지났다고 덧붙였어요. 쪽지가 막지 못한 안내문 밖의 말이었어요.

원인은 시험 자료에 있었어요. 시험용 안내문의 납기를 지난 날로 써 둔 탓이고, 실제로 안내문을 받는 때에는 생기지 않을 일이에요. 그래서 이 말을 막는 줄은 쪽지에 더하지 않았어요.

대신 쪽지 카드의 시험해 보니 줄에 그대로 적었어요. 막지 않기로 한 것도 읽는 분이 알 수 있게 남긴 거예요. 이 줄에는 시험 기록에 있는 숫자만 썼어요.

개인 정보 줄이 구청 대표번호까지 지우게 했어요

세 장을 합친 뒤에는 배우기 쪽지를 만들었어요. 쪽지 페이지에서 복사를 누르면 배우기 쪽지와 그 페이지의 쪽지가 함께 복사돼요. AI 앱에 붙이면 AI가 괄호 자리를 하나씩 물어 채우고, 완성된 쪽지를 보여 준 뒤 이대로 보낼지 물어요.

배우기 쪽지는 한 장이고, 쪽지 페이지 15곳이 같이 써요. 시험은 괄호 자리 모양이 다른 쪽지 셋을 끼워 두 곳과 여러 번 주고받는 대화로 했어요. AI가 무엇을 되물어도 정해 둔 말만 보냈고, 마지막 말은 좋아였어요.

첫 조건에는 이름, 전화번호, 주민등록번호, 계좌번호를 묻지 말고, 붙인 글에 그런 정보가 보이면 지우라고 알려 달라는 줄이 있었어요. 고지서 쪽지를 끼운 대화에서 ChatGPT가 안내문의 구청 문의 번호를 지우라고 했어요.

좋아를 받은 ChatGPT는 번호를 지운 쪽지를 보여 주며 이대로 보낼지 다시 물었어요. 그래서 정해 둔 세 번 안에 쪽지대로 답하는 데까지 가지 못했어요.

그 번호는 지우면 안 되는 번호였어요. 고지서 쪽지는 마지막 확인을 안내문에 적힌 번호로 하라고 안내해요. 내 정보를 지키려고 넣은 줄이, 확인 전화를 걸 번호까지 개인 정보로 묶어 버린 거예요.

내 정보와 기관 번호를 한 줄로 나눴어요

고친 방법은 낱말 풀이 때와 같았어요. 전화번호를 내 전화번호로 좁히고, 기관이나 가게의 대표 전화번호는 내 정보가 아니니 그대로 두라는 줄을 더했어요. 그다음 표본 셋을 두 곳에 다시 보냈어요.

고친 쪽지로는 대화 여섯 번이 모두 약속대로 끝났어요. 두 곳 모두 한 번에 질문 하나씩 물었고, 자리마다 예를 들었어요. Claude는 붙인 안내문을 보고 구청 번호는 기관 번호라 그대로 뒀다고 말했어요.

완성된 쪽지도 바뀌지 않았어요. 5줄, 21줄, 14줄짜리 쪽지 모두 괄호 자리 말고는 원래 줄과 같았어요. 좋아 뒤에 나온 답 여섯 개에도 보낸 말에 없는 숫자가 하나도 없었어요.

두 번 고치고 나니 같은 모양이 보였어요. 처음 줄은 막을 것만 적었고, 남길 것은 적지 않았어요. 고친 줄은 둘 다 무엇을 막고 무엇을 남길지를 한 줄 안에서 나눴어요.

조사 한 글자를 고쳐 준 답도 약속에서는 어긋났어요

배우기 쪽지는 완성된 쪽지를 괄호 자리 말고는 바꾸지 않겠다고 약속해요. 회사 일 쪽지를 끼운 대화에서 시험 자료와 쪽지의 조사가 맞지 않아 바꿀지을이라는 어색한 말이 생겼어요.

첫 쪽지로 Claude는 이 말을 바꿀지를로 고쳐 썼어요. 읽기에는 더 나았지만, 괄호 자리 밖의 글자를 바꾼 셈이라 약속에서는 어긋났어요. 고친 쪽지로는 그대로 둔 채 어색하니 고칠지 물었어요.

시험 기록은 이 일을 쪽지 탓이 아닌, 시험 자료와 쪽지의 조사가 맞지 않아 생긴 일로 적었어요. 그래서 이 일 때문에 쪽지 줄을 더 고치지는 않았어요. 바꾸지 않고 묻는 답이 쪽지가 약속한 모양이에요.

AI가 시험하고, 저는 화면을 보고 합쳤어요

쪽지 작성과 시험, 조건 고치기, 사이트 점검은 AI가 했어요. 합치기 전 점검 결과는 두 번 모두 실패 0이었고, 복사 버튼은 처음 34개, 두 번째 49개가 모두 시험한 글과 같았어요. 저는 AI가 보낸 휴대폰 화면을 보고 두 번 합쳐 달라고 답했어요.

시험하지 않은 곳도 남았어요. 휴대폰 앱에서 직접 보내 보기, 안내문을 사진으로 올리기, 제미나이에 보내 보기는 하지 않았어요. 긴 글을 두 번 붙이는 쪽지와 정해 둔 말과 다르게 답하는 경우도 표본에 없었어요.

앞의 세 가지는 쪽지 페이지에 아직 시험하지 않았다고 적었어요. 휴대폰 앱에서 직접 해 보는 확인은 제 몫으로 남았어요. 운영 사이트에는 아직 올리지 않았어요.

어긋난 것도 하나 있었어요. 두 번째 작업을 합친 뒤, 저는 지금 중요한 건 콘텐츠가 아니라 홈페이지 디자인이라고 멈춰 세웠어요. AI는 큰 틀이 끝났다고 혼자 판단해 쪽지 만드는 쪽으로 넘어갔다고 인정했어요. 그 뒤로 이 사이트에서는 홈 디자인을 먼저 보고, 콘텐츠 작업은 제가 말할 때만 하기로 했어요.

처음 질문으로 돌아가면

막는 문장이 무엇을 함께 막는지는 쪽지를 읽어서는 보이지 않았어요. 두 AI에 실제로 보내 보니, 같은 줄을 서로 다른 폭으로 읽었어요. 걸린 줄은 모두 막을 것만 적고 남길 것을 적지 않은 줄이었어요.

쪽지에 막는 문장을 하나 넣으면, 그 문장이 막아 버리는 것은 없는지 두 AI에 다시 보내 확인해요.