요즘 논문을 쓰다 보면 AI를 어디까지 썼는지 밝히라는 요구를 자주 본다.
글을 생성했으면 적고, 자료 조사에 썼으면 적고, 논리 구조를 잡는 데 도움을 받았으면 적고, 그림을 만들었으면 적고, 번역이나 윤문에 썼는지도 적으라고 한다. 어떤 지침은 회사명, 도구명, 사용일, 모델명까지 쓰라고 한다.
취지는 이해한다. 연구 과정을 투명하게 하자는 이야기일 것이다.
그런데 이걸 계속 밀어붙이다 보면 슬슬 이상해진다.
대체 어디까지 적어야 하지?
그림 하나를 놓고 생긴 의문
얼마 전 논문 심사에서 이런 지적을 받았다.
논문에 들어간 도식 그림이 AI로 만든 것 같은데 왜 AI 사용 사실을 밝히지 않았느냐는 것이었다.
그런데 이미지 생성 AI로 만든 그림은 아니었다.
나는 Mermaid로 그림 구조를 만들고, 그걸 Python 프로그램으로 이미지화했다.
수정할 게 생기면 코드를 고치고 다시 돌렸다.
이미지 생성 AI를 안 쓴 이유도 별것 없다.
수정하기 짜증나서다.
글자 하나 고치려고 했더니 그림 전체가 미묘하게 다시 태어나버린다.
예쁜데 내가 원하는 대로는 되지 않는다.
그래서 그냥 코드로 만들었다.
문제는 그 Python 코드를 짤 때 AI 코딩 도구의 도움을 받았다는 것이다.
자, 그러면 이 그림은 AI 그림인가?
내가 만든 프로그램이 아니라 상용 프로그램이었다면?
그 프로그램 개발자가 Claude나 ChatGPT로 코딩했다면?
조금 더 가보자.
Photoshop에도 AI 기능이 들어가 있다.
스마트폰 카메라는 사진을 찍는 순간 여러 장을 합치고 색을 조절하고 노이즈를 줄이고 장면을 분석한다.
그 과정에 AI가 들어가는 것도 이제 흔하다.
그럼 논문에 스마트폰 사진 한 장 넣을 때도
"본 사진은 AI 기반 이미지 처리 기능이 포함된 기기로 촬영되었음"
이라고 써야 하나?
물론 스마트폰 자동보정과 생성형 AI에게 그림 한 장을 통째로 맡기는 건 다르다.
그런데 바로 그게 핵심이다.
AI를 썼느냐 안 썼느냐만으로 선을 긋기 시작하면, 그 선은 앞으로 계속 흐려질 수밖에 없다.
그러니 "AI냐 아니냐"보다 그게 연구 결과를 평가하는 데 실제로 중요한 정보냐를 보는 편이 낫다.
공구 이름보다 중요한 것
이 문제는 소프트웨어 개발에 비유하면 더 분명해진다.
어떤 서비스를 만들었다고 하자.
사용자 입장에서 중요한 건 서버가 Java인지 Node.js인지가 아니다.
Claude가 코드 몇 줄을 짰는지 ChatGPT가 짰는지도 아니다.
서비스가 제대로 돌아가는가.
보안은 괜찮은가.
개인정보는 안전한가.
문제가 생겼을 때 누가 책임지는가.
이게 중요하다.
AI가 코드를 짰다고 해서 보안 사고가 나면 "Claude가 그랬습니다"라고 할 수는 없다.
검토하고 배포한 회사가 책임져야 한다.
논문도 크게 다르지 않다고 본다.
AI가 문장을 만들었든, 코드를 보조했든, 아이디어를 던졌든 최종적으로 그걸 받아들여 논문에 넣은 건 연구자다.
다만 공개와 책임은 별개다
공개는 책임을 대신하는 게 아니라, 독자가 연구를 평가하는 데 필요한 정보를 주는 것이어야 한다.
그 정보가 중요하면 밝히면 된다.
중요하지 않으면 굳이 논문만 재료명세서처럼 사용한 도구를 전부 늘어놓을 필요는 없다는 것이다.
AI가 엑셀이나 워드프로세서보다 더 적극적인 도구인 것도 맞다.
아이디어를 제안하고 논리를 만들고 연구 방향에 의견을 낼 수도 있다.
그래도 같은 AI를 A 연구자와 B 연구자에게 준다고 같은 논문이 나오지 않는다.
뭘 묻는지, 어떤 자료를 넣는지, 어떤 답을 버리고 어떤 답을 채택하는지에 따라 결과는 달라진다.
AI와 이야기하다가 아이디어를 얻을 수도 있지만, 그 아이디어를 받아들여 연구에 넣고 검증하는 건 결국 연구자다.
연구자의 능력을 "도구 없이 혼자 할 수 있는 것"으로 정의하기도 어렵다.
그럼 엑셀 쓰면 반칙인가. R은? 검색엔진은? 통계 프로그램은? 오픈소스 라이브러리는?
연구자의 능력은 도구를 안 쓰는 데 있는 게 아니라 도구를 골라 쓰고, 결과를 이해하고, 틀린 결과를 걸러내는 데 있다고 본다.
모델명과 날짜가 해결해주지 않는 것
개인적으로 특히 이상하다고 느끼는 게 "AI 회사, 모델명, 사용일을 적으라"는 요구다.
웹페이지라면 이해가 된다.
특정 날짜에 무엇을 봤는지 기록하면 나중에 당시 내용을 추적할 수 있다.
그런데 상용 AI는 다르다.
같은 프롬프트를 넣어도 답이 달라질 수 있다.
내부 모델, 시스템 프롬프트, 외부 도구, 가드레일, 라우팅이 계속 바뀐다.
논문을 쓸 때 사용한 모델이 게재될 쯤에는 사라져 있을 수도 있다.
멀티에이전트 서비스는 더 재미있다.
내가 질문을 하나 했는데 내부에서 무슨 모델이 검색하고, 무슨 모델이 추론하고, 무슨 모델이 최종 답을 썼는지 나도 모를 수 있다.
그럼 논문에는 뭐라고 쓰나.
"알 수 없음. 서비스 제공자가 알아서 이것저것 사용함"?
모델명과 날짜를 기록하는 게 아예 의미가 없다는 이야기는 아니다.
맥락을 남기거나 나중에 과정을 추적하는 데는 도움이 될 수 있다.
다만 기록과 재현은 다른 문제다.
그걸 적었다고 갑자기 실험이 재현되는 것은 아니다.
오히려 AI 자체가 연구의 핵심이라면 훨씬 더 엄격하게 다뤄야 한다.
어떤 LLM의 특정 주제에 대한 판단 능력을 연구하면서
"ChatGPT OO 모델을 사용했다."
이렇게 한 줄 쓰고 끝내는 게 더 이상하다.
가능하다면 프롬프트, 데이터, 코드, 파라미터, 실행 환경까지 공개해서 다른 사람이 다시 실험해볼 수 있게 해야 한다.
연구 성격상 가능하다면 오픈 웨이트 모델을 쓰는 것도 방법이다.
물론 연구 대상 자체가 ChatGPT나 Gemini라면 그 사용 서비스를 써야 한다.
대신 그 경우에는 당시 입력과 출력, 반복 시행 결과를 남기는 식으로 최대한 검증 가능하게 만들어야 한다.
AI를 썼다고 적는 것보다, 연구 과정을 다시 들여다볼 수 있게 만드는 게 훨씬 중요하다.
자료 조사는 어디까지인가
자료 조사도 비슷하다.
요즘 Google 검색부터 브라우저, 논문 검색 서비스까지 AI가 안 들어간 데를 찾기가 더 어렵다.
검색하면 AI가 요약해준다.
관련 논문도 추천한다.
그러다 새로운 키워드를 알게 되고, 그 키워드가 연구 방향을 바꿀 수도 있다.
그럼 이것도 다 적어야 하나?
"Google의 AI 요약에 노출됨."
"브라우저 AI 기능이 일부 내용을 요약함."
"추천 알고리즘의 영향을 받아 논문을 추가 탐색함."
이쯤 되면 도서관에서 카드목록 뒤져가며 논문 찾지 않는 이상 다 신고해야 할 것 같다.
내 생각에는 기준이 훨씬 간단하다.
Google에서 찾았든, AI에게 물었든, 동료에게 관련 논문을 추천받았든 마지막에는 연구자가 원문을 읽고 검증 가능해야 한다.
AI가 가짜 논문을 알려줬는데 그대로 인용했다?
그건 "AI를 써서" 문제가 아니라 확인도 안 하고 인용해서 문제다.
반대로 수만 편의 논문을 모아놓고 그중 실제 분석에 넣을 논문을 추려내는 연구에서 AI가 2만 편의 초록을 읽고 최종 분석 대상 300편을 골랐다면 그건 완전히 다른 이야기다.
여기서 AI는 연구 방법에 들어갔다.
당연히 공개해야 한다.
둘 다 "자료 조사에 AI를 썼다"인데, 학술적으로는 전혀 같은 일이 아니다.
한방 프롬프트라는 극단적인 경우
여기서 아예 극단적으로 가보자.
누가 프롬프트 하나를 넣었떠니 AI가 논문 한 편을 거의 다 만들어줬다고 하자.
그런데 데이터를 확인해보니 맞다.
인용도 맞다.
분석도 맞다.
독창적인 주장도 있다.
저자는 내용을 전부 이해하고 있고 심사 질문에도 제대로 답한다.
그리고 논문이 게재됐다.
그럼 이 논문은 사람이 직접 타이핑하지 않았다는 이유만으로 가치가 없어지는가?
나는 아니라고 본다.
물론 여기에는 저자 자격이라는 별도의 문제가 남는다.
AI가 핵심 아이디어와 논증까지 사실상 전부 만들었다면, 그 사람이 어느 정도 지적 기여를 해야 저자로 인정할 것인지는 따로 논의할 수 있다.
다만 적어도 사람이 문장을 직접 생성했느냐가 연구 결과의 진실성과 학술적 가치를 결정하는 기준은 아니다.
그리고 "심사 통과했으니 무죄"라는 뜻도 아니다.
사실 이건 AI를 전혀 쓰지 않은 논문도 마찬가지다.
사람이 처음부터 끝까지 직접 썼다고 해서 심사를 통과한 순간 진실이 되는 건 아니다.
심사에서 놓친 오류가 나중에 발견될 수도 있고, 분석이 잘못됐을 수도 있고, 심하면 데이터 조작이 뒤늦게 드러날 수도 있다.
심사 통과는 원래부터 면죄부가 아니다.
AI가 있든 없든 그렇다.
오히려 AI 때문에 그럴듯한 원고를 훨씬 쉽게 만들 수 있게 됐다면 심사도 달라져야 한다.
문장이 자연스러운지를 보는 데서 끝날 게 아니라 데이터와 분석이 맞는지, 인용한 논문이 실제로 그 말을 하는지, 논리가 성립하는지를 더 제대로 봐야 한다.
AI 시대에는 저자의 책임이 사라지는 게 아니라 오히려 더 분명해지고, 심사 과정이 감당해야 할 검증 부담도 커진다.
내가 생각하는 기준
나는 AI 사용 공개에 반대하지 않는다.
다만 기준이 "AI를 썼느냐"이면 안 된다고 생각한다.
그 AI 사용 사실을 독자가 알지 못하면 연구의 주장, 방법, 데이터, 해석, 재현성 또는 연구윤리를 제대로 평가하기 여려운가?
그렇다면 공개하면 된다.
AI가 데이터를 분류했다.
AI 출력이 실험 결과가 됐다.
AI가 분석 대상 선정에 개입했다.
AI가 연구 데이터의 처리나 분석에 관여했다.
이런 건 독자가 알아야 한다.
특히 민감한 연구 데이터를 외부 AI 서비스에 입력했다면 그건 공개 여부를 넘어 개인정보 보호나 연구윤리의 문제가 될 수도 있다.
반대로 문장을 조금 다듬고, 관련 자료를 찾는 걸 도와주고, 도식 만드는 코드를 보조한 것까지 일일이 신고해야 하는지는 잘 모르겠다.
실제로 ACM의 업데이트된 저자 정책을 반영행 ISS 2026 지침도 연구 설계, 데이터, 코딩, 분석처럼 연구 결론에 직접 관련된 과정에서 AI를 사용한 경우에는 방법론에서 설명하도록 하면서, 논문 작성 보조에 AI를 사용한 사실은 별도로 공개하도록 요구하지 않는다(https://iss.acm.org/2026/authors/papers/).
결국 학술윤리가 물어야 할 것도 이쪽이 아닐까.
"Claude 썼어요? GPT 썼어요? 몇월 며칠에 썼어요?"
보다
"그래서 그 AI가 이 연구에서 뭘 바꿨습니까?"
"독자가 그 사실을 알아야 연구를 제대로 평가할 수 있습니까?"
그리고 마지막으로
"그 결과에 당신 이름을 걸 수 있습니까?"
나는 이게 훨씬 중요한 질문이라고 생각한다.