스마트 학습법

AI 할루시네이션이란? 영어교재와 리서치 자료를 만들 때 꼭 조심해야 할 것

AI 할루시네이션의 뜻을 영어교재 제작과 리서치 자료 작성 사례로 쉽게 설명합니다. 지문 해설, 문제 제작, 논문 출처 확인에서 왜 검토가 필요한지 알아봅니다. AI에게 영어 독해 문제를 만들어 달라고 했습니다.문제도 그럴듯했습니다. 해설도 자연스러웠습니다. 그런데 원문을 다시 확인해 보니 이상한 부분이 있었습니다.지문에는 없는 내용을 근거처럼 설명하고 있었던 것입니다.리서치 자료를 만들 때도 비슷한 일이 생깁니다. 논문 제목, 저자 이름, 연구 결과가 아주 전문적으로 보이는데 실제로 찾아보면 존재하지 않는 경우가 있습니다.이런 현상을 AI에서는 할루시네이션(Hallucination)이라고 부릅니다. AI는 왜 틀린 말을 자신 있게 할까?가끔 길을 잘 모르는 사람이 있습니다.그런데 모른다고 말하지 않고..

AI는 글자를 읽는 것이 아니라 토큰(Token)이라는 작은 단위로 문장을 나누어 처리합니다.이번 글에서는 토큰의 개념과 영어·한국어의 토큰 차이까지 쉽게 설명합니다. 이삿짐을 싸다 보면 이상한 일이 생깁니다.처음에는 물건이 별로 없어 보입니다. 책 몇 권, 컵 몇 개, 작은 전자제품 하나 정도입니다.그런데 막상 포장을 시작하면 박스가 계속 필요합니다. 컵은 깨지지 않게 따로 감싸야하고, 접시는 하나씩 종이로 싸야 합니다. 노트북은 완충재를 넣고 전용 박스에 넣어야 합니다.물건의 개수보다 중요한 것은 따로 있습니다.그 물건을 몇 개의 상자로 나누어 담아야 하느냐입니다. AI가 글을 읽는 방식도 이와 비슷합니다.우리가 쓴 문장은 AI에게 그대로 들어가지 않습니다. 먼저 작은 말 조각으로 나뉩니다.이 작..