ChatGPT가 조용히 하는 일을 어떻게 신경 쓰게 할 수 있을까요?

이제 인터넷의 절반 이상이 AI가 생성한 텍스트입니다.

주의: 이 글에는 ChatGPT가 작성한 예시가 포함되어 있으며, 명확하게 표시해두었습니다.

AI는 글을 매우 교묘하게 쓸 수 있습니다. 우리가 전혀 예상하지 못한 방식으로 말이죠!

맥킨지 디지털은 최근 연구에서 AI가 세계 경제에 4조 4천억 달러의 가치를 더할 것이라고 예측했습니다. 하지만 사람들이 AI를 받아들이는 속도는 생각보다 느립니다.

마치 우리가 시대에 뒤처진 것처럼 들리죠?

새로운 기술을 받아들이지 못하는 것처럼 보일 수 있습니다. 마치 옛날 사람들이 전기나 자동차를 두려워했던 것처럼요. "아니에요, 전 그냥 촛불 쓰고 말 타고 다닐래요" 하는 것처럼요.

하지만 실제로는 전혀 다릅니다.

한 가지 보여드릴게 있어요.

만약 여러분이 작가이거나 글쓰기를 좋아하시는 분이라면, 제가 보여드릴 내용이 좀 충격적일 수 있습니다.

한번 보시죠.

저는 최근 Originality.ai의 설립자 조나단 길햄이 쓴 포브스 기사를 읽었습니다. 그는 많은 사람들이 AI가 쓴 글을 쉽게 알아볼 수 있다고 생각하지만, 사실은 그렇지 않다고 말했어요.

이제는 일반인이 AI와 사람이 쓴 글을 구분하기가 거의 불가능하다고 합니다. AI 탐지 도구와 사람의 판단을 함께 써야만 구분할 수 있다고 해요.

저는 AI 탐지 회사의 대표가 한 말이 정말 사실인지 직접 확인해보고 싶었습니다. 제가 과연 AI와 사람의 글을 구분할 수 있을지, 그리고 AI 탐지가 정말 가능한지 알고 싶었거든요.

그래서 먼저 ChatGPT에게 글을 하나 써달라고 했습니다.

한번 보실까요?

여기 제가 ChatGPT에 입력한 글쓰기 주제입니다:

프롬프트: 숲에서 길을 잃고 숲이 자신의 두려움에 대한 은유라는 것을 깨닫는 한 여성의 이야기를 작성하세요. 사람처럼 들리는 텍스트를 사용하여 500단어 내외의 일인칭으로 작성하세요.

결과는 저를 놀라게 했습니다.

바로 ChatGPT의 결과물입니다:

저는 등산 배낭의 끈을 조이고 심호흡을 했습니다. 나무들이 하늘을 찌를 듯 뻗어 있는 숲이 눈앞에 펼쳐졌습니다. 마음을 비우기 위해 몇 시간만 걸리는 간단한 하이킹이었어요. 하지만 트레일에 발을 내딛자마자 이상한 불안감이 목 뒤쪽을 찌르는 듯했습니다.

잠시 시간을 내어 읽어보세요.

작가라면 약간 속이 아플 수도 있습니다.

글쓰기 사이트에서 이런 글을 읽으면 손가락을 가리키며 인공지능이라고 비명을 지르시겠습니까? 그렇게 생각하지 않으실 겁니다. 그렇게 잘 쓰지 못하는 사람도 있습니다. ChatGPT가 많은 사람들을 놀라게 한 것 같아요.

길햄이 틀린 말은 아닙니다. 우리는 그 차이를 구분할 수 없습니다.

여기 백만 달러짜리 질문이 있습니다. 인공지능은 그것이 인공지능인지 알 수 있을까요? 이 이야기를 12가지 AI 탐지 도구에 붙여넣어 확인해 보았습니다. 다음은 평가 결과입니다:

✔️ SurferSeo: 100% AI

✔️ CopyLeaks: 100% AI

✔️ Originality.ai: 100% AI

❌ ZeroGpt: AI와 인간

❌ Scribbr.com: AI와 인간

❌ Quillbot.com: AI와 인간

❌ ContentDetector: AI와 인간

❌ GPTzero: 60% 인간

❌ Writer.com: 80% 휴먼

❌ Grammarly: 99% 휴먼

❌ OpenAI Detector: 99% 휴먼

❌ 표절탐지기: 100% 휴먼

12개의 AI 탐지기 중 3개는 100% AI임을 알고 있었습니다. 3명.

연구에 따르면, 대부분의 사람들은 인공지능이 인간이라고 생각하는 비율이 절반을 넘는다고 합니다. 분명히 AI도 마찬가지입니다.

하나의 샘플에서 결론을 내리기 위해 더 많은 작업을 수행했습니다. 여기 또 다른 샘플이 있습니다:

프롬프트: 한 남자가 아버지가 혼자 죽지 않도록 아버지의 임종 옆에 앉아 있습니다. 그는 추억과 감정으로 가득 차 있습니다. 그의 생각과 감정에 대한 단락을 1인칭으로, 사람처럼 들리는 텍스트로 작성하세요.

ChatGPT에서 생성된 출력입니다:

방에서 희미하게 소독약 냄새가 났고 뭔가 무거운, 마지막 냄새가 났어요. 저는 아버지의 침대 옆에 있는 딱딱한 비닐 의자에 앉아 아버지를 조금이라도 더 붙잡아두기 위해 팔걸이를 손으로 잡았습니다. 나는 아버지의 가슴이 오르내리는 것을 지켜보았고, 숨을 쉴 때마다 점점 얇아지는 생명의 끈이 느껴졌습니다. 어렸을 때 그의 웃음소리, 내 어깨에 얹힌 그의 손의 무게, 해결하지 못한 말다툼 등 기억이 주마등처럼 스쳐 지나갔습니다. 시간이 더 필요하지만 이렇게는 안 됩니다. 자신의 몸이 포기한 일을 기계가 대신하는 것은 원하지 않았습니다. 영원히 이곳에 머물고 싶었고, 한 번에 끝내고 싶었습니다.

문구를 보세요. It. 소리. 인간 소리

인공지능 탐지 점수는? 정말 끔찍합니다.

✔️ SurferSeo: 100% AI

❌ GPTzero: 90% 인간임 확신

❌ Writer.com: 90% 인간임 90% 확신

❌ CopyLeaks: 100% 인간

❌ Scribbr.com: 100% human

❌ ZeroGpt: 100% human

❌ Grammarly: 100% human

❌ 표절탐지기: 100% human

❌ Quillbot: 100% human

❌ ContentDetector: 100% human

❌ Originality.ai: 100% human

❌ OpenAI Detector: 100% human

AI 탐지 도구 12개 중 1개는 AI임을 알고 있었습니다. 하나.

조금 아플 것 같나요?

또 하나. 이번엔 시입니다.

마음이 아팠어요.

프롬프트:시나리오; 부부가 부엌에서 아내가 저녁을 요리하는 동안 대화를 나누고 있습니다. 아내는 이야기를 하고 있지만 남편은 듣지 않습니다. 그녀는 남편이 자신의 말을 듣지 않는다는 것을 알고 있습니다. 그는 단지 자신을 위해 요리하고 청소해주는 예쁜 아내를 좋아합니다. 그녀는 결혼 생활이 끝났다는 것을 깨닫습니다. 그것에 대해 자유 형식의 시를 써보세요.

출력: ChatGPT에 의해 생성됨

텍스트는 ChatGPT 작성, 스크린캡은 작성자 작성.

아무도 이 글을 읽고 인공지능이라고 말하지 않을 것입니다. 그들은 어떤 여성이 불쌍한 실연의 아픔에서 쓴 글이라고 믿게 될 것입니다.

여자가 없다는 것만 빼고요 심장도 없고 이혼 대기중인 이혼도 없습니다. 그냥 기계일 뿐이죠. 사람의 글쓰기를 모방하는 프로그램을 실행하는 컴퓨터입니다.

AI 탐지 점수는 다음과 같습니다:

✔️ SurferSeo: 100% AI

❌ GPTzero : 93% Human

❌ CopyLeaks : 100% Human

❌ Writer.com : 100% Human

❌ Scribbr.com : 100% Human

❌ ZeroGpt : 100% Human

❌ Grammarly : 100% Human

❌ 표절탐지기: 100% Human

❌ Quillbot : 100% Human

❌ ContentDetector: 100% Human

❌ Originality.ai: 100% 인간

❌ OpenAI Detector: 100% 인간

12명 중 1명은 AI라는 것을 알았습니다. 한 명. 사람의 눈과 AI 탐지 도구의 조합은 이렇게 끝났습니다.

AI 탐지가 제대로 작동하는 때가 있습니다. 특정 유형의 콘텐츠입니다.

프롬프트:400자 내외의 짧은 에세이를 작성하여 SEO가 왜 중요한지, 어떻게 작동하는지 모르는 사람들에게 핵심 사항을 설명해 주세요

그리고 결과물입니다:

어쩌고저쩌고. ChatGPT의 콘텐츠, 작성자별 스크린캡.

점수는 다음과 같습니다:

✔️ CopyLeaks: 100% AI

✔️ Originality.ai: 100% AI

✔️ ZeroGpt: 99% AI

✔️ Quillbot: 90% AI

✔️ Scribbr: 90% AI

✔️ GPTzero: 81% AI

✔️ SurferSeo: 75% AI

✔️ ContentDetector: 62% AI

❌ Writer.com: 76% 인간

❌ Grammarly: 88% 인간

❌ OpenAI Detector: 99% 인간

❌ 표절탐지기: 100% 인간

놀랍습니다. 12개의 AI 탐지 도구 중 8개가 AI임을 알아챕니다.

때때로 인공지능이 작성한 글은 너무 평범해서 뻔할 때가 있습니다. 특히 정보 콘텐츠가 그렇습니다. 아이러니한 점은 상업 고객을 위해 이와 같은 콘텐츠를 작성하는 사람이 AI를 감지하면 AI도 사람이라고 생각할 수 있다는 점입니다.

마지막으로 한 가지 테스트를 해봤습니다. 저는 ChatGPT에 아무것도 작성해 달라고 요청하지 않았습니다. 제가 직접 작성한 에세이를 모든 AI 탐지기에 붙여넣었습니다. 모두 100% 인간이라고 평가했습니다. 다음은 모든 테스트의 결과를 그래프로 나타낸 것입니다.

작성자가 만든 차트 및 © 작성자

AI 탐지 도구들은 특정한 패턴이 있습니다. 공식적인 정보를 담은 글은 AI가 쓴 것으로 판단하고, 개인적인 이야기가 담긴 글은 사람이 쓴 것으로 봅니다. 하지만 소설이나 시 같은 창작물은 제대로 구분하지 못합니다.

AI가 어떻게 이렇게 글을 잘 쓰게 됐을까요? 답은 간단합니다. 다른 사람들의 저작물을 무단으로 가져다 썼기 때문입니다.

지금 많은 언론사와 작가들이 OpenAI를 고소하고 있습니다. 뉴욕타임스를 비롯한 여러 신문사, 존 그리샴과 조지 R.R. 마틴 같은 유명 작가들이 소송에 참여했습니다. OpenAI가 자신들의 글을 허락도 없이 가져다 썼다는 이유에서죠.

이는 미국뿐만이 아닙니다. 캐나다의 CBC, 영국의 Mumsnet 등 전 세계 미디어 회사들이 저작권 침해로 소송을 제기하고 있습니다. 현재 총 18건의 소송이 진행 중입니다.

왜 OpenAI는 이런 위험을 감수했을까요? 돈 때문입니다. 필요한 모든 콘텐츠의 사용료를 지불하기에는 비용이 너무 많이 들었기 때문이죠.

AI가 좋은 일에 쓰이는 경우도 있습니다. 암을 발견하고, 청각장애 아동을 돕고, 멸종위기 동물을 보호하는 데 사용되죠. 하지만 OpenAI는 다릅니다. 그들은 다른 사람의 저작물을 무단으로 사용해 돈을 벌고 있습니다.

실제로 ChatGPT와 OpenAI는 2024년에만 64억 달러(약 8조 원)의 수익을 올렸고, 내년에는 116억 달러를 기대하고 있습니다.

더 놀라운 사실은 2024년 1월 기준으로 인터넷에 있는 글의 57%가 AI가 만든 것이라는 점입니다.

저는 작가이자 독자로서 이런 상황이 걱정됩니다. AI가 조용히 인터넷을 장악해가는 것을 어떻게 하면 사람들에게 알릴 수 있을까요?

"OpenAI는 창작자들에게 한 푼도 지불하지 않고 그들의 저작물을 무단으로 사용해 돈을 벌고 있습니다" - 뉴욕타임스