Page 35 -

Altruism Forum에 올라오는 ‘챗GPT로 인해 인간 이외 동물의 의식에
36
관한 우리의 신념이 위축될 것인가?’ ‘미국 국민은 병원체의 위험
37
을 감소시키기 위한 자외선 살균 기술에 찬성하는가?’ 같은 게시물
을 보면 포커 플레이어들이 특정한 포커 핸드를 두고 시시콜콜한 부

분까지 따지며 논쟁을 벌일 때와 같은 너드nerd(특정 영역에서 지능이나
지식이 뛰어나지만 외골수이거나 사회성이 떨어지는 사람을 이른다. ‘덕후’와 어

감이 비슷하다–옮긴이)의 기운이 느껴진다.
EA와 합리주의자는 테크업계와도 긴밀히 연결되어 있고 실제로

두 운동의 선도자 중 다수가 캘리포니아주 북부(실리콘밸리의 소재지–
옮긴이)에 살고 있다. 그리고 최근에 일부 EA는 주 관심사가 전통적
자선사업에서 인공지능artificial intelligence, AI 개발로 바뀌었다. 많은 EA

와 합리주의자가 AI를 문명사에서 가장 중요한 기술 중 하나이자 극

도로 중요한 문제로 여긴다. 개중에는 언젠가 AI가 막강한 능력을 보
유하면 문명을 멸망시키거나 심각하게 훼손하고 인류에 실존적 위험

이 될 수 있다고 보는 사람도 있다. 그러니까 지금은 두 운동을 논하
기에 좋은 시기다. 한편에서는 EA와 합리주의자들이 샘 뱅크먼프리

드(SBF)와 맺은 관계가 파국으로 이어지고 또 한편에서는 챗GPT 같
은 AI 도구가 눈부시게 발전 중인(일부 EA가 이미 예견한 일이기도
38
했다 ) 오늘날 우리는 그들의 사고방식을 이해해야만 한다.
거기서 더 내려가면 중류가 나온다. 내가 상상하는 중류에는 맨해

튼처럼 뾰족한 마천루가 늘어서 있다. 이곳 사람들은 벤처캐피털과
헤지펀드 등을 통해 EV극대화 기술을 발휘함으로써 큰돈을 번다. 하
지만 이 책에는 월스트리트보다 실리콘밸리가 많이 등장한다. 실리

콘밸리 사람들이 더 투명하기 때문이다. 그들은 강사람의 유별함을

더 노골적으로 과시하며 동부의 기득권층에게 가운뎃손가락을 들어

0장. 서문 37