MBN골드

뉴스

학계도 ‘AI 슬롭’ 몸살…국제 컨퍼런스 논문 21% “AI가 썼다”	2026-02-02 10:29
허위 출처·도표 오류 등 ‘환각현상’ 다수 학계, 패널티 주거나 심사 거부 등 강력 대응 인공지능(AI)이 생성한 저품질 콘텐츠를 뜻하는 일명 ‘AI 슬롭(Slop)’이 학계까지 침투하며 몸살을 앓고 있다. AI로 생성한 논문이 폭증하면서 학술적 진위를 가리기 위한 사회적 비용이 커지는 것은 물론, 과학계의 신뢰마저 흔들릴 수 있다는 우려가 나온다. 1일(현지시간) 파이낸셜타임스(FT)에 따르면 최근 주요 국제 학술 컨퍼런스에 AI가 작성한 저품질 논문이 대거 제출되면서 학계의 시름이 깊어지고 있다. 학술 스타트업 판그램(Pangram)의 분석 결과, AI관련 세계적인 권위를 자랑하는 ‘ICLR(International Conference on Learning Representations) 2025’에 제출된 논문의 21%가 AI로 생성된 것으로 파악됐다. 특히 전체 논문의 9%는 내용의 절반 이상을 AI가 작성한 것으로 추정됐다. 심지어 AI가 쓴 특정 논문은 심사위원들로부터 높은 점수를 받아 상위 17% 내에 포함되는 등 학계의 감시망을 교묘히 빠져나가는 사례도 포착됐다. AI 연구 분야의 ‘최고 권위’로 꼽히는 신경정보처리시스템학회(NeurIPS·뉴립스)도 상황은 마찬가지다. AI 탐지 스타트업 ‘GPT제로(GPTZero)’는 지난해 뉴립스에 제출된 논문 50편에서 100건 이상의 AI 생성 오류를 발견했다는 연구 결과를 발표했다. 학계는 즉각 대응에 나섰다. ICLR 측은 최근 AI 사용과 관련한 가이드라인을 제정하고, 거대언어모델(LLM) 활용 사실을 사전에 공개하지 않을 경우 논문을 반려하기로 했다. AI를 활용한 저품질 논문 출품 시 패널티를 부과하거나 심사를 거부하겠다는 강수도 뒀다. 전문가들은 ‘연구의 질’보다 ‘양’을 중시하는 문화가 고착화될 것을 우려하고 있다. 하니 파리드 UC버클리 컴퓨터공학과 교수는 “연구진이 AI를 활용해 오류가 섞인 저품질 논문을 남발한다면 과학자들이 사회로부터 어떻게 신뢰를 얻겠느냐”고 반문했다. 실제로 최근 학계의 논문 제출 건수는 폭발적으로 늘어나는 추세다. 뉴립스에 따르면 2025년 논문 제출 건수는 2만1575건으로 2020년(9467건) 대비 5년 만에 2배 이상 급증했다. 한 저자가 단일 학회에 100편 이상의 논문을 쏟아내는 기현상도 벌어지고 있다. 학계는 허구의 참고문헌을 인용하거나 도표를 잘못 기입하는 등 AI 특유의 ‘환각(Hallucination) 현상’이 담긴 논문이 과학의 엄밀함을 해치고 있다고 지적한다. 케빈 웨일 오픈AI 과학 부문 책임자는 “AI는 새로운 영역을 탐구하는 강력한 가속기가 될 수 있지만, 반드시 엄격한 검증을 거쳐야 한다”며 “도구(AI)를 쓴다고 해서 연구의 책임과 엄밀함이 면제되는 것은 아니다”라고 강조했다. [ⓒ 매일경제 & mk.co.kr, 무단전재 및 재배포 금지]

학계도 ‘AI 슬롭’ 몸살…국제 컨퍼런스 논문 21% “AI가 썼다”

2026-02-02 10:29

허위 출처·도표 오류 등 ‘환각현상’ 다수
학계, 패널티 주거나 심사 거부 등 강력 대응

인공지능(AI)이 생성한 저품질 콘텐츠를 뜻하는 일명 ‘AI 슬롭(Slop)’이 학계까지 침투하며 몸살을 앓고 있다. AI로 생성한 논문이 폭증하면서 학술적 진위를 가리기 위한 사회적 비용이 커지는 것은 물론, 과학계의 신뢰마저 흔들릴 수 있다는 우려가 나온다.
1일(현지시간) 파이낸셜타임스(FT)에 따르면 최근 주요 국제 학술 컨퍼런스에 AI가 작성한 저품질 논문이 대거 제출되면서 학계의 시름이 깊어지고 있다.
학술 스타트업 판그램(Pangram)의 분석 결과, AI관련 세계적인 권위를 자랑하는 ‘ICLR(International Conference on Learning Representations) 2025’에 제출된 논문의 21%가 AI로 생성된 것으로 파악됐다. 특히 전체 논문의 9%는 내용의 절반 이상을 AI가 작성한 것으로 추정됐다. 심지어 AI가 쓴 특정 논문은 심사위원들로부터 높은 점수를 받아 상위 17% 내에 포함되는 등 학계의 감시망을 교묘히 빠져나가는 사례도 포착됐다.
AI 연구 분야의 ‘최고 권위’로 꼽히는 신경정보처리시스템학회(NeurIPS·뉴립스)도 상황은 마찬가지다. AI 탐지 스타트업 ‘GPT제로(GPTZero)’는 지난해 뉴립스에 제출된 논문 50편에서 100건 이상의 AI 생성 오류를 발견했다는 연구 결과를 발표했다.
학계는 즉각 대응에 나섰다. ICLR 측은 최근 AI 사용과 관련한 가이드라인을 제정하고, 거대언어모델(LLM) 활용 사실을 사전에 공개하지 않을 경우 논문을 반려하기로 했다. AI를 활용한 저품질 논문 출품 시 패널티를 부과하거나 심사를 거부하겠다는 강수도 뒀다.
전문가들은 ‘연구의 질’보다 ‘양’을 중시하는 문화가 고착화될 것을 우려하고 있다. 하니 파리드 UC버클리 컴퓨터공학과 교수는 “연구진이 AI를 활용해 오류가 섞인 저품질 논문을 남발한다면 과학자들이 사회로부터 어떻게 신뢰를 얻겠느냐”고 반문했다.
실제로 최근 학계의 논문 제출 건수는 폭발적으로 늘어나는 추세다. 뉴립스에 따르면 2025년 논문 제출 건수는 2만1575건으로 2020년(9467건) 대비 5년 만에 2배 이상 급증했다. 한 저자가 단일 학회에 100편 이상의 논문을 쏟아내는 기현상도 벌어지고 있다.
학계는 허구의 참고문헌을 인용하거나 도표를 잘못 기입하는 등 AI 특유의 ‘환각(Hallucination) 현상’이 담긴 논문이 과학의 엄밀함을 해치고 있다고 지적한다.
케빈 웨일 오픈AI 과학 부문 책임자는 “AI는 새로운 영역을 탐구하는 강력한 가속기가 될 수 있지만, 반드시 엄격한 검증을 거쳐야 한다”며 “도구(AI)를 쓴다고 해서 연구의 책임과 엄밀함이 면제되는 것은 아니다”라고 강조했다.

[ⓒ 매일경제 & mk.co.kr, 무단전재 및 재배포 금지]