효과적인 이타주의의 문제는 Sam Bankman을 넘어서는 것입니다.

Sam Bankman-Fried는 효과적인 이타주의를 핵심으로 삼았지만, 최대의 선을 행한다는 철학은 번성하는 약탈적 행동 문화를 가립니다.

엘렌 휴엣

삽화: Bloomberg Businessweek의 Sophi Gullbrants

가입자 혜택

구독하다

소니아 조셉(Sonia Joseph)은 소년 마법사를 엄격한 경험주의자로 재구성한 대인기 팬픽인 해리포터와 합리성의 방법을 처음 읽었을 때 14세였습니다. 이 합리적인 포터는 과학적인 방법으로 교수들의 주문을 테스트하고, 발견한 불일치를 비웃으며, 12살이 되기 전에 마법사들의 모든 문제를 해결합니다. 10대에 HPMOR를 네 번 읽었던 Joseph은 "정말 좋았어요"라고 말합니다. 그녀는 매사추세츠 교외의 고등학교에서 위화감을 느꼈던 야심찬 인도계 미국인이었습니다. 그녀는 이 이야기가 "똑똑한 외부인의 관심을 많이 끈다"고 말합니다.

팬픽의 작가인 Eliezer Yudkowsky의 다른 글을 검색한 결과 Joseph에게 더 많은 기회가 열렸습니다. Yudkowsky는 2000년대 초반부터 적대적인 인공지능이 수십 년 내에 인류를 파괴할 수 있다고 주장해 왔습니다. 이러한 추진력 있는 신념으로 인해 그는 스스로를 합리주의자라고 부르고 결론이 무서운 경우에도 편견 없는 사고를 유지하는 것을 목표로 하는 사람들의 공동체에서 지적인 대부로 만들었습니다. 합리주의에 대한 조셉의 새로운 관심은 또한 그녀를 효과적인 이타주의로 이끌었습니다. 이는 불명예스러운 암호화폐 전직 억만장자 샘 뱅크맨-프리드(Sam Bankman-Fried)와의 연관성으로 악명 높은 관련 도덕적 철학입니다. 본질적으로, 효과적인 이타주의는 세상에 최대한 효율적으로 긍정적인 영향을 미치기 위해 합리적 사고를 사용하는 것을 강조합니다. 이러한 서로 다르지만 겹치는 그룹은 AI의 위험성에 대한 게시물이 일반화되는 온라인 포럼에서 발전했습니다. 그러나 그들은 또한 베이 지역에 모여서 기계가 우리 모두를 죽일 가능성을 줄이려는 노력인 AI 안전이라는 연구 분야를 구상하기 시작했습니다.