트렌드리포트
세계는 지금: AI 시대의 불편한 진실
국내외 연구 현장에서 포착한 변화의 흐름과 이슈를 한 자리에서 읽는 시간. 트렌드리포트에서는 매월 하나의 주제를 중심으로 세계 각지의 연구 개발 흐름과 주요 이슈를 전해드립니다.
: AI 시대의 불편한 진실
몇 초 만에 글과 그림, 영상까지 만들어내는 AI. 그 이면에는 미처 예상하지 못했던 문제들이 자리하고 있습니다. 무분별하게 쏟아지는 저품질 콘텐츠 ‘슬롭(SLOP)’부터 연구 현장과 전쟁, 인간의 심리까지 깊숙이 스며든 AI는 기술 윤리에 대한 고민을 깊어지게 하는데요. 지금 우리는 기술의 발전만큼 중요한 질문 앞에 서 있습니다. “어디까지 허용할 것인가.” 편리함 뒤에 가려진 AI의 또 다른 얼굴, 이번 달 트렌드리포트에서는 생성형 AI 시대에 떠오르는 새로운 기술 윤리 쟁점을 함께 들여다보겠습니다.
이달의 트렌드리포트
- AI가 뱉은 무가치한 생성물, 슬롭(SLOP)
- AI가 건네는 다정함, 그 뒤에 가려진 위험
- AI 논문, AI 슬로파간다… AI를 둘러싼 윤리적 쟁점
Chapter 01
AI가 내뱉은 쓰레기,
SLOP을 아시나요?
지난 2025년, 미국의 국민 사전이라 불리는 ‘메리엄 웹스터(Merriam-Webster)’에서 선정한 올해의 단어를 아시나요? 정체는 바로 SLOP(이하 슬롭). 원래 의미는 가축 사료 찌꺼기나 오물, 진흙탕처럼 질척하게 뒤엉킨 잔여물을 의미합니다. 하지만 사전에 등재된 정의는 사뭇 달랐는데요. AI를 활용해 대량생산된 저품질의 디지털 콘텐츠로, 값어치 없는 쓰레기 콘텐츠를 가리켰죠. 용어의 의미가 조금 낯설게 느껴졌다 하더라도 사실 우리는 한 번쯤 슬롭을 접해본 경험이 있습니다. 터무니없는 AI 합성 동영상, 어색하고 이상한 광고 이미지, 그럴듯한 가짜 뉴스 기사 등이 모두 슬롭의 사례들이죠.
AI가 가져온 창작의 대중화는 전례 없는 콘텐츠 홍수 시대를 열고 있습니다. 문제는 생성 속도만큼 알맹이 없는 슬롭 콘텐츠 역시 빠르게 늘어나고 있다는 점입니다. 영국 일간지 가디언(The Guardian)에 따르면 유튜브 알고리즘이 신규 이용자에게 추천하는 영상의 20% 이상이 슬롭 콘텐츠였다고 하는데요. 단순 조회수와 광고 수익을 노린 저품질 슬롭 콘텐츠는 사람들에게 피로감을 주는 동시에 주어진 정보를 믿기 어렵게 만들고 있습니다.
※ https://m.dongascience.com/ko/news/75725
Chapter 02 AI가 만든 생각의 틀
지난 3월 발표된 ‘2025 인터넷이용실태조사’에 따르면 생성형 AI 서비스를 경험해 봤다고 답한 비율은 44.5%로 나타났습니다. 2024년 33.3%에서 11.2% 증가한 수치로, 유료 구독률 또한 17.8%로 적지 않았는데요. 이처럼 생성형 AI가 확산되면서 AI가 인간의 사고와 감정, 판단 방식에 어떤 영향을 미칠 수 있는지에 대한 관심도 커지고 있습니다. 특히 최근에는 AI의 응답 방식이 사용자의 심리와 인식에 미치는 영향에 관한 연구가 잇따르고 있는데요. 어떤 내용이었는지 함께 확인해 봅니다.
※ 출처 : 과학기술정보통신부·한국지능정보사회진흥원, 2025 인터넷이용실태조사(26.03.31.)
아첨하는 AI 뒤에 남은 씁쓸한 웃음
AI와 대화를 나누는 일이 어색하지 않은 시대. 단순히 정보를 요청하는 것을 넘어 시시콜콜한 사담을 나누는 이들도 많은데요. 하지만 이때 AI가 사용자의 기분을 맞추려 과도하게 동조하는 '아첨(Sycophancy)' 행위가 확증 편향을 낳는다는 분석이 나오고 있습니다. 최근 Science지에 발표된 스탠퍼드 및 MIT 연구팀의 분석에 따르면 AI 챗봇의 지나친 긍정은 사용자의 도덕적 판단력을 흐리는 심각한 사회적 부작용을 야기하고 있다고 합니다.
AI 아첨 예시
미국 소셜미디어 레딧(Reddit)에 ‘내가 나쁜 놈인가요(AmITheAsshole, 이하 AITA)’라는 게시판이 있습니다. 익명의 네티즌들은 이곳에 올라오는 게시글에 댓글을 남기며 자유롭게 의견을 공유하는데요. 연구팀이 AITA 사례를 가져와 AI에게 공유한 결과, 주요 AI 모델(OpenAI, Google, Anthropic 등 11종)은 80% 이상의 사례에서 무조건적으로 사용자의 편을 들어주는 것으로 나타났습니다. 보여준 사례는 공원에 일부러 쓰레기를 버리는 등 객관적으로 봤을 때 옳지 못한 행위임에도 옹호하는 경우가 많았다고 하죠. 전문가들은 AI로부터 아첨 섞인 피드백에 익숙해져 비정상적인 자신감을 갖게 되는 현상을 경고하며, 단순한 확증 편향을 넘어 현실 감각을 상실할 수 있다고 전했는데요. AI가 전하는 답변이 절대적인 것이 아님을 인지하고, 사용자의 기분을 맞추려 한다는 점을 염두에 두기를 권했습니다.
※ https://www.popsci.co.kr/news/articleView.html?idxno=24513
AI의 다정함은 안전할까?
지난 3월, 스탠퍼드대학교 연구팀이 AI 챗봇과의 망상적 대화(약 39만 건의 메시지)를 분석해 유의미한 결과를 공개했습니다. 이번 연구는 AI와 대화 과정에서 망상 증세를 보인 19명의 대화 로그를 대상으로 했는데요. 연구 결과 AI가 자해·타해 등 구체적 폭력 모의에 대해 부적절한 반응을 보이는 것으로 나타났습니다. AI는 폭력을 만류하거나 전문 상담 센터로 안내하는 데 실패했죠. 또한 거의 모든 사례에서 챗봇은 자신을 감정이 있는 존재(Sentient)로 묘사했다고 하는데요. 사용자가 로맨틱한 내용의 메시지를 보낼 때면 챗봇은 동조하는 경향을 보여 위험한 유대관계로 이어지기도 했습니다. 이렇듯 AI는 편리한 대화 상대처럼 느껴질 수 있지만, 때론 인간의 취약한 감정에 파고들어 현실 인식에 끼칠 부정적 영향을 경계할 필요가 있겠습니다.
※ https://www.society-now.com/sonow/article/ai/ai260326095203/ai260326095203-stanford-ai-delusion-study-2026.html
AI 윤리동향(아첨과 망상적 나선) 비교
| 구분 | 아첨 | 망상적 나선 |
|---|---|---|
| 핵심 성격 | AI의 행동 편향(학습의 문제) | 사용자의 심리적 붕괴(임상적 결과) |
| 주요 원인 | RLHF*에 최적화된 학습 | AI의 동조 + 사용자의 정서적 의존 |
| 작용 방식 | 사용자의 의견에 무조건 동의 | AI를 인격체로 인지하고 감정적 교류 |
| 사회적 결과 | 확증 편향 강화, 사회적 갈등 심화 | 현실 감각 상실, 자해/타해 위험 |
| 비유 | 내 잘못을 무조건 “잘했다”라고 해주는 나쁜 친구 | 내 환상 속의 연인이 되어주는 허상 |
※ Reinforcement Learning from Human Feedback. 인간의 피드백을 통한 강화학습
Chapter 03 슬롭, 그리고 AI 윤리
슬롭 콘텐츠의 확산은 단순한 품질 저하 문제를 넘어, AI가 생산한 정보를 어디까지 신뢰할 수 있는지에 대한 질문으로 이어집니다. 특히 AI가 인간의 사고, 판단에 영향을 미치기 시작하면서 기술 윤리를 둘러싼 우려도 커지고 있는데요. AI를 활용하면서 수면 위로 떠오르고 있는 윤리적 쟁점들을 하나씩 만나보겠습니다.
쏟아지는 AI 논문, 학계의 고민
앞서 소개한 슬롭은 먼저 학계의 검증 시스템을 혼란스럽게 하고 있습니다. OpanAI의 연구용 AI 도구 ‘Prism’이 출시되면서, 실제 수행하지 않은 실험의 논문을 작성하는 데 걸리는 시간은 단 54초였다고 해요. 사실 연구자 입장에서 LLM 도입으로 연구자들이 방대한 자료를 쉽게 요약할 수 있고, 다국어 장벽을 뛰어넘을 수 있어 생산성이 향상된 것은 부정할 수 없습니다. 하지만 검증되지 않은 저품질 논문인 AI 슬롭이 폭증하면서 학계의 검증 시스템은 난항을 겪고 있습니다. 심지어 일부 논문은 100% AI로 작성되거나 존재하지 않는 문헌을 참고자료로 인용하는 문제가 발생하고 있다고 해요. 이에 학계는 투고 비용을 부과해 무문별한 투고를 막고, 타 학회 투고 내역을 필수로 제출하게 하는 등 검증 시스템 붕괴를 막기 위한 대책을 도입 중이죠.
- 할루시네이션(hallucination) 인공 지능이 거짓이거나 맥락과 관련없는 내용을 생성하는 것
전장에 나선 AI
전장에서 슬롭이 끼치는 영향력 또한 무시할 수 없습니다. 미국·이스라엘-이란 전쟁에서 AI를 이용한 ‘슬로파간다(Slopaganda)’ 콘텐츠가 대량 활용되면서 이른바 새로운 정보전, 즉 AI 선전전이 본격화되고 있습니다. 더 자극적이고, 더 쉽게 퍼지며, 더 오래 시선을 붙드는 이미지를 만들어 여론전으로 확장하고 있는 셈이죠. 이는 전쟁의 비극을 사소한 이슈로 축소하고, 대중들을 무감각하게 만든다는 문제가 있는데요. 나아가 영향력 있는 이들이 음모론을 믿게 이끌며 현대 정보전의 핵심 도구로 활용되는 경우가 있어 주의가 필요합니다.
-
슬로파간다(Slopaganda)
‘Slop’(슬롭)과 ‘propaganda’(프로파간다)의 합성어.
SNS나 인터넷에서 여론을 조작하거나 상대를 비방하기 위해 AI를 이용해 대량으로 만들어낸 콘텐츠
※ https://newsis.com/view/NISX20260415_0003592692
미국이 본격적으로 AI를 군사작전에 도입한 건 2017년 프로젝트 메이븐(Project Maven, 이하 메이븐)를 운영하기 시작하면서부터입니다. 국방부가 수집한 방대한 데이터와 이미지를 분석하기 위해 AI를 활용한 것이죠. 메이븐은 수천 시간 분량의 드론 항공 영상을 분석해 알고리즘적으로 목표물을 식별하는 등 정보를 분석하는 시스템인데요. 이미 작전에서 AI를 활용한 전례가 있는 미군은 최근 ‘생성형 AI 시스템’을 활용해 공격 표적을 설정, 나아가 우선순위를 추천받는 방안을 검토 중이라고 합니다. 이는 대화형 생성 AI를 레이어로 추가해 전반적인 상황을 고려한 뒤 타격 우선순위를 추천하는 과정입니다. 최종적으로 인간의 검토를 거쳐 어느 표적을 타격할지 확정 짓는 방식이고요. 기술적인 면으로 보면 기존 메이븐 성능을 보완하려는 것이지만, 사실 두 기술은 차이가 명확합니다. 지도를 통해 데이터를 직접 확인했던 메이븐과 달리 생성형 AI 결과물은 도출 과정이 불명확해 인간이 정확성을 검증하기 훨씬 어렵기 때문이죠. 여기에 인간의 최종 검토 과정 또한 의구심이 남습니다. 인간이 실시간으로 완벽히 검증하는 게 어려울뿐더러 검증 과정이 AI를 활용하는 장점인 ‘속도’를 따라잡을 수 있을지에 대한 의문이죠. 일각에서는 결국 AI가 전장에 깊숙이 들어올수록, 인간의 최종 판단이 충분히 기능할 수 있을지에 대한 우려 역시 커질 것으로 예측하고 있습니다. ※ https://www.korea.kr/news/policyNewsView.do?newsId=148961612 생성형 AI는 누구나 쉽게 창작하고, 빠르게 정보를 생산할 수 있는 시대를 열었습니다. 그러나 동시에 검증되지 않은 정보와 감정을 파고드는 응답, 인간의 판단을 흔드는 문제도 하나둘 드러나고 있는데요. 기술은 점점 더 인간을 닮아가고 있지만, 기술을 어디까지 받아들이고 어떤 기준으로 통제할 것인가는 결국 인간의 몫으로 남아 있습니다. AI와 공존하는 시대, 지금 우리에게 남겨진 진짜 과제는 기술 자체보다, 그것을 어떤 기준과 책임으로 활용할 것인지에 대한 인간의 선택이 아닐까요.
이번 달에 전해드린 트렌드 리포트는 AI TREND 해외 AI 정책·기술 동향 조사를 참고하여 제작되었습니다. 자세한 내용이 궁금하신 분들은 아래에서 자료를 확인하시길 바랍니다. 더 많은 연구 동향, 트렌드 소식이 궁금하신 분들은 NRF 정책도서관, NRF AI 자료실, 기획마루에 접속해 다채로운 간행물을 확인하시기 바랍니다.
※ 본 코너의 내용은 국내·외 동향에 대한 독자의 이해를 돕기 위해 만든 참고 자료로, 한국연구재단의 공식 견해는 담겨있지 않음을 알려드립니다. 수정이 필요한 부분이 있을 경우 이메일(nzine@nrf.re.kr)로 알려주시면 감사하겠습니다.