🤔 최근 국내외를 막론하고 경제적·사회적 불안이 일상처럼 이야기되고 있다.

😳 여기에 AI 기술의 급격한 발전이 더해지며, 대규모 실직과 인간의 역할 상실에 대한 우려도 함께 증폭되고 있다.

🧐 "AI가 일자리를 대체할 것인가", "우리는 곧 쓸모없는 존재가 되는 건 아닐까"라는 질문이 더 이상 과장이 아닌 듯 들리는 시대다.

☝️ 이 책은 이러한 공포와 기대를 한발 떨어져 차분하게 해부한다. 이 책은 AI를 맹목적으로 찬양하지도, 막연히 두려워하지도 않는다.

😌 대신 지금 우리가 믿고 있는 AI에 관한 신화와 과장을 하나씩 걷어내며, 기술을 둘러싼 현실을 직시할 것을 요구하고 있다.

.
1️⃣ 예측형 AI는 왜 자주 틀리고, 더 위험한가

✨️ 이 책이 가장 강하게 비판하는 대상은 '예측형 AI'다.

✨️ 예측형 AI는 제한된 데이터와 특정 지역의 패턴을 전체 사회에 일반화하는 구조적 결함을 안고 있다.

✨️ 대표적인 사례로 소개되는 범죄 위험 예측 모델(PSA)은 지역별 범죄율과 개인의 맥락을 무시한 채 숫자만으로 판단해, 실제로는 위험하지 않은 사람을 수개월간 구금하는 인권 침해를 낳았다.

✨️ AI는 피고인의 반성, 경찰의 실수, 사회적 배경 같은 맥락과 의미를 이해하지 못한다.

✨️ 오히려 기존 데이터에 담긴 인종·성별 편견을 그대로 학습해 무작위 추측보다 약간 나은 수준의 결과를 '과학적 판단'처럼 포장할 뿐이다.

✨️ 저자는 이 지점에서 중요한 질문을 던진다. "틀리는 기술"보다 더 위험한 건, 그 결과를 비판 없이 신뢰하는 인간의 태도라고 말이다.

.
2️⃣ 너무 잘 작동하는 AI가 만드는 또 다른 문제

✨️ 흥미롭게도 저자는 어떤 AI는 "너무 잘 작동해서" 위험하다고 지적한다.

✨️ 이미지 분류나 안면 인식 AI는 높은 정확도로 인해
정부의 대중 감시, 특정 소수 집단 식별 등 인권 침해의 도구로 악용될 가능성이 크다.

✨️ 채용 시장에서도 비슷한 문제가 발생한다. AI가 이력서를 걸러내는 과정이 일반화되자, 지원자들은 AI만 인식할 수 있는 흰색 키워드를 숨겨 넣는 등 시스템을 속이기 위한 전략을 사용하기 시작했다.

✨️ 그 결과 채용은 공정성과 인간적 판단을 잃고,
지원자와 기업 모두가 보이지 않는 알고리즘과 싸우는 전쟁터가 되었다.

✨️ AI는 효율을 높이기 위해 도입되었지만, 정작 과정은 더 불투명하고 비인간적으로 변해가고 있는 셈이다.

.
3️⃣ 생성형 AI, 그리고 'AI 신화'의 실체

✨️ 챗봇과 AI 에이전트에 대한 기대 역시 이 책에서는 냉정하게 다뤄진다.

✨️ 현재의 생성형 AI는 인간처럼 세상을 경험하며 배우지 않는다.

✨️ 이미 수집된 데이터를 사후적으로 처리할 뿐,
실시간 학습이나 자율적 오류 수정 능력은 매우 제한적이다.

✨️ 저자는 AI 열풍이 과거의 가상화폐나 웹3와 닮아 있다고 지적한다.

✨️ 공익성과 현실적 한계는 외면한 채, AI를 '블랙박스'나 '초지능'으로 신비화할수록 우리는 스스로 대응할 능력을 포기하게 된다는 것이다.

✨️ 진짜 위험은 AI 자체가 아니라, AI를 악용해 권력을 휘두르는 인간이라는 점을 이 책은 반복해서 강조한다.

.
🎯 마무리 : AI를 두려워하기보다, 정확히 이해하라

✨️ 이 책은 AI가 모든 직업을 대체할 것이라는 공포를 과장이라고 제시한다.

✨️ 전문직 시험 성적은 실제 업무의 복잡성과 맥락을 반영하지 못하며, 어떤 기술이든 조직에 안착하고 실질적으로 활용되기까지는 긴 시간이 필요하다.

✨️ 이 책이 독자에게 요구하는 태도도 단순하다.
📌 AI를 맹신하지도, 막연히 거부하지도 말 것.
📌 신화 대신 구조를 이해하고, 공포 대신 비판적 사고를 가질 것.

✨️ 불확실한 시대일수록 필요한 것은 기술 예언이 아니라, 기술을 다루는 인간의 판단력임을 이 책은 분명하게 보여준다.