AI 쓸 때 꼭 알아야 할 주의사항 5가지

이 블로그에서 줄곧 AI의 좋은 점을 이야기했지만, 안전벨트 없이 태울 수는 없습니다. AI를 1년 넘게 일상적으로 쓰면서 "이건 처음에 알았더라면" 싶었던 주의사항 5가지를 정리합니다.

1. AI의 말은 '초안'이지 '사실'이 아니다 — 환각

AI는 그럴듯한 문장을 만들 뿐, 사실을 보증하지 않습니다. 존재하지 않는 논문, 틀린 법 조항, 가짜 통계를 자신만만하게 말하는 환각(hallucination)은 최신 모델에서도 완전히 사라지지 않았습니다. (원리가 궁금하다면 LLM 동작 원리 편 참고)

• 숫자, 날짜, 인명, 법령, 의학 정보는 반드시 원 출처 확인
• "출처를 알려줘"라고 요청하고, 그 출처를 실제로 클릭해 볼 것
• 중요한 의사결정(의료, 법률, 투자)은 AI 답변만으로 하지 말 것

2. 입력창에 넣는 순간, 내 손을 떠난다 — 개인정보·기밀

AI 서비스에 입력한 내용은 서비스 개선(모델 학습)에 활용될 수 있습니다. 설정에서 끌 수 있는 서비스가 많지만, 기본 원칙은 하나입니다.

"유출되면 곤란한 것은 애초에 입력하지 않는다."

• 주민등록번호, 계좌, 비밀번호는 절대 입력 금지
• 회사 기밀 문서는 사내 정책 확인 후 사용 (금지하는 회사가 많습니다)
• 고객·타인의 개인정보를 넣는 것은 개인정보보호법 위반 소지가 있습니다
• 꼭 다뤄야 한다면 이름·회사명을 가명 처리 후 입력

3. 만들었다고 다 내 것이 아니다 — 저작권

AI 생성물의 저작권은 아직 법적으로 정리 중인 영역입니다. 현재 시점에서 실무적으로 알아둘 것은:

• 서비스마다 생성물의 상업적 사용 조건이 다릅니다. 약관을 확인하세요.
• 특정 작가 스타일을 흉내 낸 이미지, 실존 인물 이미지는 분쟁 위험이 큽니다.
• AI가 쓴 글을 그대로 출판·제출하는 것은 표절·정책 위반이 될 수 있습니다 (학교·언론사·공모전 다수가 AI 사용 고지 규정을 두고 있습니다).

4. 내 귀에 들리는 목소리도 가짜일 수 있다 — 딥페이크·보이스피싱

몇 초의 음성 샘플로 목소리를 복제하는 시대입니다. 가족·상사를 사칭한 AI 음성 보이스피싱 피해가 실제로 늘고 있습니다.

• 전화로 급하게 돈을 요구하면, 일단 끊고 원래 알던 번호로 다시 걸어 확인
• 가족끼리만 아는 '확인 질문'을 미리 정해두는 것도 방법
• 영상도 안심할 수 없습니다. 유명인 투자 권유 영상은 대부분 딥페이크 사기입니다.

5. 편리함의 대가 — 실력과 판단력의 외주화

마지막은 기술이 아니라 습관 이야기입니다. 요약을 AI에 맡기다 보면 긴 글을 읽는 근육이, 초안을 맡기다 보면 백지에서 시작하는 근육이 약해지는 것을 저 스스로 느꼈습니다.

• AI의 결과물을 받으면 "왜 이렇게 썼지?"를 한 번 따져보기
• 배우는 중인 분야(외국어, 코딩 등)는 먼저 스스로 해보고 AI로 검증
• 최종 판단과 책임은 언제나 사람 몫이라는 것을 잊지 않기

마치며

주의사항을 알고 쓰는 것과 모르고 쓰는 것은 완전히 다릅니다. 이 글이 여러분의 안전벨트가 되었기를 바랍니다. 이제 안심하고 활용법 편으로 돌아가 마음껏 써보세요.