최근 기업이나 연구소에서 AI에게 수백 쪽 분량의 계약서나 산업 보고서를 요약하게 했을 때 흔히 벌어지는 일이 있다. AI는 문서 A에 있는 '긍정적 시장 전망'과 문서 B에 있는 전혀 다른 기업의 ‘파산 위험’을 교묘하게 뒤섞어 버린다. 그러고는 원문 어디에도 없는 ‘A 기업의 파산 위기설’을 마치 핵심 요약인 것처럼 기정사실화 해 보고서에 적어 넣는다. 과거처럼 대놓고 황당한 헛소리를 하지는 않지만, 전문가조차 원문을 일일이 대조하지 않으면 속아 넘어갈 만큼 정교하고 그럴듯한 거짓을 만들어내는 것이다.이 현상을 ‘환각(Hallucination)’이라고 부른다. 존재하지 않는 것을 보는 듯이, AI가 실제로 없는 정보를 있는 것처럼 생성해 낸다는 의미다. 촘촘해진 안전장치 덕분에 기초적인 오류는 눈에 띄게 줄었지만, 환각의 본질은 여전히 해결되지 않은 채 남아있다.1.세 가지 구조적 한계AI가 자신 있게 틀리는 이유는 크게 세 가지 구조적 한계에서 비롯된다.데이터의 빈칸-AI가 바...

최근 우리는 낯선 경험을 공유하고 있다. 채팅창 너머의 AI가 건네는 위로에 마음이 흔들리기도 하고, 복잡한 업무를 순식간에 처리해 내는 모습에 경외감마저 느낀다. 불과 몇 년 전까지만 해도 상상 속에서나 존재하던 일이 일상이 되었다. 이쯤 되면 우리는 자연스럽게, 그리고 조금은 두려운 마음으로 묻게 된다.“저 기계는 과연 '생각'을 하고 있는 것일까?”이 질문은 단순한 호기심을 넘어선다. 하지만 결론부터 말하자면, 이 질문 자체가 함정일 수 있다. 현재의 AI는 우리가 아는 방식으로는 사고하지 않기 때문이다. AI는 의미를 이해하거나 스스로 목적을 설정하지 않는다. 다만 인간이 설계한 거대한 수학적 구조 안에서 방대한 계산을 수행할 뿐이다. 문제는 그 계산의 결과가 인간의 사고와 구별할 수 없을 만큼 정교해지고 있다는 점이다. 계산하는 기계와 사고하는 인간, 이 좁혀진 간극이야말로 오늘날 AI 논쟁의 핵심이다.1. AI의 머릿속은 무엇으로 채워져 있는가오늘날 AI는 대부분 ‘딥러닝...