[도서 요약] AI 상식사전 - 인공지능, 전공은 아니지만 궁금했어요, 2023 세종도서 교양부문 — 인공지능이라는 야생마에 올라타 생존을 도모

📄 요약본 PDF 내려받기 · 🎧 팟캐스트 듣기

■ 기술적 실업의 공포를 넘어선 생존의 문제

1930년대 대공황의 한복판에서 경제학자 존 메이너드 케인스는 ‘기술적 실업(Technological Unemployment)’을 예견했다. 기술의 발전 속도가 새로운 노동처를 창출하는 속도를 앞지르며 발생하는 이 구조적 실업은 현대에 이르러 더욱 잔혹한 수치로 구체화되고 있다. 서울대학교 유기윤 교수 연구팀이 제시한 2090년 미래 계급 전망은 충격적이다. 플랫폼 소유주와 스타 계급이 최상층을 차지하는 반면, 인류의 99.997%는 인공지능 로봇에 밀려나 단순 노동자로 전락하는 ‘프레카리아트(Precariat)’ 계급이 된다는 것이다. 이는 단순한 경제적 격차를 넘어선 사회적 붕괴의 전조다.
인공지능이 인간을 지배할 것이라는 원초적 공포가 만연한 지금, 고(故) 이어령 교수의 비유는 냉철한 이정표를 제시한다. 말과 인간이 달리기 경주를 벌이는 것은 무의미하다. 인간이 생존하는 유일한 길은 말에게 재갈을 물리고 그 등에 올라타 말보다 앞서 나가는 것이다. 한규동의 《AI 상식사전》은 이러한 맥락에서 단순한 기술 해설서를 넘어선다. 이 책은 인공지능이라는 야생마를 길들이고 거대한 데이터의 흐름 위에서 주도권을 잡기 위한 ‘생존 도구’이자 현대적 재갈이다.

■ 인공지능이라는 새로운 전기가 재편하는 일자리 지도

기술의 발달은 역사적으로 항상 일자리의 변화를 수반해 왔다. 1989년 자동문과 하차벨이 도입되며 버스 안내원이 사라졌고, 개인용 컴퓨터의 발달로 타자기로 문서를 작성하던 타이피스트가 자취를 감췄다. 1930년대 경제 대공황 당시 존 메이너드 케인스는 자동화가 사람의 일자리를 빼앗는 현상을 두고 ‘기술적 실업’이라는 용어를 처음 사용하기도 했다. 오늘날에는 인공지능이 과거의 전기처럼 산업 전반을 바꾸는 범용 기술로 작동하며 일자리 지도를 근본적으로 재편하고 있다. 2016년 스탠퍼드 대학교의 앤드류 응 교수는 이러한 현상을 두고 “인공지능은 새로운 전기(電氣)다(AI is the New Electricity!).”라고 선언했다.
인공지능의 도입으로 인한 일자리의 순증감 예측은 시기에 따라 계속 변하고 있다. 세계경제포럼(WEF)은 2018년 『일자리의 미래 보고서』에서 7,500만 개의 일자리가 사라지는 대신 1억 3,300만 개의 새로운 일자리가 생길 것으로 내다봤다. 하지만 불과 2년 뒤인 2020년 보고서에서는 8,500만 개가 사라지고 9,700만 개가 새로 생길 것으로 전망치가 수정되었다. 저자는 해당 보고서가 경고하는 일자리 변화의 속도를 다음과 같이 인용한다.

이러한 흐름 속에서 데이터 분석가와 인공지능 전문가 등 디지털 기술을 다루는 직업의 수요는 급증하는 반면, 데이터 입력이나 단순 행정 등 컴퓨터로 대체 가능한 사무직의 수요는 빠르게 감소하고 있다.
개별 직업이 인공지능으로 대체될 확률에 대해서는 연구 기관의 조사 시기와 방법에 따라 큰 차이를 보인다. 2013년 옥스퍼드 마틴스쿨의 칼 베네딕트 프레이와 마이클 오스본 교수는 702개의 직업을 분석하여 중학교 교사가 컴퓨터로 대체될 확률을 17%, 내과·외과 의사의 대체 확률을 0.42%로 추정했다. 반면 2016년 한국고용정보원이 국내 인공지능 전문가 21명을 설문조사한 결과에서는 2025년까지 중·고등학교 교사가 대체될 확률이 52.2%, 의사가 대체될 확률이 42.5%로 다소 높게 나타났다. 결국 단순한 문서 작성을 하던 타이피스트가 엑셀과 파워포인트를 다루는 사무원으로 진화했듯, 자동화될 수 있는 규칙적인 직업을 피하고 인공지능 기술을 능동적으로 학습하는 태도가 필수적인 생존 조건이 되고 있다.

■ 알고리즘의 편견이 잉태한 블랙박스의 위협

사람들은 흔히 인공지능이 객관적이고 공정할 것이라고 믿지만, 실제로는 쓰레기 같은 데이터를 입력하면 편향된 알고리즘이 만들어지는 규칙이 그대로 적용된다. 2021년 한국에서는 실제 연인의 문자 메시지 대화를 학습한 챗봇 ‘이루다’가 장애인과 성 소수자에 대한 혐오 발언을 쏟아내며 출시 20일 만에 서비스가 중단되었다. 앞서 2016년 마이크로소프트가 개발한 챗봇 ‘테이’ 역시 사용자들의 차별적 발언을 학습해 백인우월주의와 여성 혐오 발언을 남기며 16시간 만에 운영이 중지된 바 있다. 또한 2018년 아마존은 기존 남성 직원 위주의 과거 데이터를 학습한 인공지능 채용 시스템이 여성 지원자에게 불리한 점수를 부여한다는 사실을 확인하고 시스템을 전면 폐기했다.
이러한 인공지능의 편견은 이미지 인식과 언어 번역 등 일상적인 서비스에도 깊숙이 스며들어 있다. 2015년 구글 포토는 흑인에 대한 학습 데이터 부족으로 흑인을 고릴라로 잘못 분류하는 치명적인 오류를 일으켰다. 2018년 MIT 연구원 조이 부오람위니가 마이크로소프트, IBM 등의 얼굴 인식 소프트웨어를 테스트한 결과, 백인 남성의 인식 오류율은 0.0~0.8%에 불과한 반면 흑인 여성의 오류율은 최대 34.7%에 달했다. 성별 구분이 없는 한국어 문장을 기계 번역기로 영어로 번역할 때도 ‘의사’와 ‘상사’는 남성으로, ‘간호사’와 ‘비서’는 여성으로 번역되는 젠더 편향이 두드러지게 나타난다.
데이터 과학자 캐시 오닐은 인공지능 알고리즘이 내부 작동 방식을 알 수 없는 블랙박스의 특성을 지니고 있어 더 큰 문제가 된다고 지적하며 이를 다음과 같이 설명한다.

실제로 딥러닝 알고리즘은 어떤 특징을 학습해 결과에 영향을 미치는지 명확히 파악할 수 없기 때문에, 편향이나 오류가 발견되더라도 원인을 파악하거나 섣불리 수정하기가 어렵다. 대표적으로 2016년 미국에서 사용된 범죄자 재범 확률 예측 프로그램 ‘컴파스(COMPAS)’는 인종 차별이 만연했던 과거 데이터를 학습한 결과, 흑인이 백인보다 재범 위험이 높게 평가되는 편향성을 보였다. 위험 점수가 높다고 분류되었으나 2년 안에 재범하지 않은 가짜 양성 비율이 백인은 23.5%인 반면 흑인은 44.9%에 달했음에도, 비공개 알고리즘이라는 특성 탓에 편향성 여부를 단정하고 바로잡는 데 큰 난항을 겪었다.

■ 딥페이크와 트롤리 딜레마가 던지는 윤리적 화두

마이클 샌델의 책에서 소개된 ‘트롤리 딜레마’는 자율주행 자동차의 알고리즘 설계와 맞물리며 현실적인 윤리 문제로 대두되었다. 2017년 가상현실(VR) 실험 결과 사람들은 주로 다수나 어린아이를 살리는 선택을 했으나, 2016년 「사이언스」 논문에 따르면 대중은 공공선을 위해 운전자를 희생하는 자율주행차를 구매하지 않겠다는 태도를 보였다. 이에 2017년 6월 독일 윤리 강령은 사람의 피해를 막기 위해 동물이나 물건을 치도록 프로그래밍하고 나이와 성별에 따른 차별을 엄격히 금지했다. 한국 국토교통부 역시 2020년 12월 총체적 위해를 최소화하라는 가이드라인을 냈으나, 생명 보호라는 기본 가치와 충돌하여 명확한 결론을 내리지 못했다.
윤리적 딜레마는 딥러닝 기술로 만든 가짜 영상인 딥페이크 문제에서도 심각하게 나타난다. 2018년 4월 미국 코미디언 조던 필이 버락 오바마 전 대통령의 가짜 영상을 만들었고, 2020년 미국 대선 당시에는 한 시민 단체가 김정은 국무위원장의 딥페이크 영상을 게시했다. 기술의 대중화로 진품과 복제품의 차이가 무의미해지고 가짜 정보가 무한히 생산되면서 부작용이 커지고 있다. 카이스트 김대식 교수는 인공지능 기술이 악용되어 역사적 진실마저 왜곡할 수 있는 위험성을 다음과 같이 경고한다.

이러한 딥페이크의 확산을 탐지하기 위해 2020년 메타, 아마존, 마이크로소프트 등은 3,500명의 영상을 바탕으로 ‘딥페이크 탐지 대회(DFDC)’를 개최했다. 하지만 2,114개 참가팀이 경쟁했음에도 가장 우수했던 팀의 탐지 정확도는 65.18%에 불과했다. 카이스트 이흥규 교수는 딥페이크 생성 연구자가 100명일 때 탐지 기술을 연구하는 사람은 4~5명 정도라며, 방어 기술이 조작 기술의 발전 속도를 따라가지 못하고 있다고 지적했다. 결국 자율주행차의 생명 판단 알고리즘과 딥페이크 조작 같은 인공지능의 윤리적 화두는 기술의 개발만으로는 해결될 수 없으며 제도적 대책이 함께 마련되어야 한다.

■ 창작의 영역을 침범한 인공지능과 저작권의 충돌

딥러닝 기술이 발전하면서 과거 사람의 고유 영역으로 여겨졌던 예술 창작 분야에 인공지능이 활발히 진출하고 있다. 2018년 10월 미국 뉴욕 크리스티 경매장에서는 인공지능이 그린 그림 ‘에드먼드 벨라미’가 예상가 1만 달러의 43배에 달하는 43만 달러에 판매되었다. 이 작품의 서명란에는 그림 생성에 사용된 생성적 적대 신경망(GAN)의 수식이 적혀 있었다. 음악 분야에서도 2020년 10월 인공지능 작곡가 ‘이봄(EVOM)’이 프로듀서 ‘누보’와 작곡한 곡으로 가수 하연이 데뷔했으며, 이봄은 한국음악저작권협회에 작곡가로 등록되기도 했다.
이처럼 인공지능의 창작물이 늘어나면서 인공지능이 독자적인 저작권을 가질 수 있는지에 대한 법적 충돌이 발생한다. 대다수 국가와 한국의 현행 저작권법은 사람만을 저작권자로 인정하므로 인공지능 자체는 저작권을 가질 수 없다. 따라서 창작물에 대한 권리는 프로그램 개발자나 이용자에게 주어지는데, 이용자가 단순한 조작만 했을 경우 누구에게 권리가 있는지에 대한 일반적인 해답은 아직 없는 상태다. 크리스티 경매장 측은 인공지능 초상화의 작가가 누구인지에 대해 다음과 같은 견해를 밝힌 바 있다.

사람이 아닌 주체의 저작권 인정 여부는 2011년 인도네시아 원숭이 ‘나루토’의 셀카 사건에서도 쟁점이 된 바 있다. 당시 동물보호단체가 영국 사진작가 데이비드 존 슬래터를 상대로 저작권 소송을 냈으나, 미국 법원은 동물에게 소송을 제기할 권리가 없다고 판결했다. 위키피디아 역시 동물이 찍은 사진에는 저작권이 발생하지 않는다고 주장하며 사진 삭제 요구를 거부했다. 결국 그림 그리는 돼지 ‘피그카소’의 저작권이 인정되지 않듯 인공지능 역시 현재로서는 독자적 권리를 인정받지 못하며, 예술 작품은 인간과 인공지능이 협력한 산물로 간주되고 있다.

■ 시사점: 프레카리아트 전락을 막는 인공지능 리터러시

서울대 연구팀이 예견한 99.997%의 하층 노동자 계급으로의 전락은 허황된 공포가 아닌 실존하는 위협이다. 이 거대한 알고리즘의 파도 앞에서 우리가 선택할 수 있는 유일한 생존 전략은 ‘인공지능 리터러시’의 확보뿐이다. 이는 기술적 수식을 푸는 능력이 아니라, 인공지능의 작동 원리를 꿰뚫어 보고 그 한계와 편향성을 비판적으로 분석하며 기술을 자신의 도구로 부릴 줄 아는 통찰을 의미한다.
컴퓨터 과학자 다익스트라는 “컴퓨터가 생각할 수 있는지 묻는 것은 잠수함이 수영할 수 있는지 묻는 것과 같다”라고 간파했다. 기계가 인간처럼 ‘생각’하느냐는 철학적 논쟁보다 중요한 것은, 그 기계가 우리의 생존에 기여하는 ‘유용한 도구’로서 기능하느냐다. 앨런 튜링이 모방 게임을 통해 기계의 지능을 시험했듯, 우리는 이제 기계를 어떻게 컨트롤할 것인지 시험대에 올랐다.
한규동의 《AI 상식사전》은 복잡한 기술의 장막을 걷어내고 인공지능의 본질을 직시하게 한다. 인공지능이라는 야생마는 이미 달리기 시작했다. 이 위에 올라타 기술의 주인이 될 것인가, 아니면 알고리즘의 발아래 짓밟힐 것인가. 답은 명확하다. 두려움을 버리고 끊임없이 배우는 ‘평생 학습자’로서의 태도만이 인공지능 시대에 존엄을 지키며 생존할 수 있는 유일하고도 확실한 전략이다.

---

📖 이 책이 궁금하다면 · AI 상식사전 - 인공지능, 전공은 아니지만 궁금했어요, 2023 세종도서 교양부문