 |
현대 사회 급속도로 생겨나고 발전하고 있는 Ai 기술은 딥페이크, 가짜뉴스, 혐오 발언, 정신적 위해를 주는 챗봇 등 누구나 손쉽게 유해 콘텐츠를 만들어 낼 수 시대를 초래하였다. 또한 플랫폼 알고리즘은 이러한 콘텐츠를 빠르고 넓게 퍼뜨리며 위험을 증폭시키고 있다. 그러나 국내 현실은 여전히 이 문제를 심각하게 다루지 못하고 있으며, 대응 산업 역시 초기 단계에 머물러 있다.
『AX터뷸런스: AI 대전환기 가짜와 분열 속 질서를 설계하는 Trust and Safety』 도서는 미국 실리콘밸리 현장에서 근무하여 쌓은 저자의 경험과 지식을 토대로 유해 콘텐츠의 구조적 원인과 확산 배경을 분석하고 “누가 이 책임을 져야 하는가”라는 본질적인 질문을 던진다. 동시에 온라인 공간에 안전을 시키는 새로운 산업과 사람들 즉 ‘Trust and Safety’ 분야와 글로벌 안전 설계 흐름을 소개한다.
‘AX터뷸런스’는 총 8개의 장으로 구성되었으며 1. <생성형 AI, 콘텐츠 세계의 격변의 문을 열다>를 시작으로 2. <가짜 뉴스는 시작일 뿐, 더 악랄한 악의를 구현하는 기술>, 3. <플랫폼의 진짜 속사정, 유해 콘텐츠와의 전쟁>, 4. <당신이 몰랐던 스크린 너머의 세계, Trust and Safety>, 5. , 6. , 7. <새로운 기회: Trust and Safety 커리어 로드맵>, 8. <혼자 싸워 이길 순 없다: 공통의 적에 맞서는 글로벌 연대>로 구성되었다. 이 책은 생성형 Ai와 사회적 위험, 플랫폼 알고리즘의 구조적 문제, 그리고 실리콘밸리에서 자리 잡은 ‘Trust and Safety’ 전문가들의 역할까지 폭넓게 다룬다. 독자는 이를 통해 단순한 Ai 발전흐름 이야기를 넘어, 앞으로의 사회 시스템과 기업 전략, 각 독자별로 대응할 수 있는 시각을 키울 수 있다.
마지막으로 저자는 “Ai가 만들어내는 유해 콘텐츠는 더 이상 특정 집단의 문제가 아니라 전 세계의 생존 문제가 되었다” 라며 “Trust and Safety 산업은 한국 사회에서도 반드시 필요하며, 이 책이 인공지능 대전환의 시대 속 심각성과 동시에 새로운 가능성을 독자들과 공유하는 계기가 되기를 바란다”라고 소감을 전했다.
도서 정가: 17,000원
[저작권자ⓒ 대학저널. 무단전재-재배포 금지]
