“대량살상 수학무기”라는 다소 자극적인 제목 때문에 읽은 책이지만 마지막 책장을 덮을 즈음엔 이러한 제목으로 눈길을 끌어준 저자에게 감사했다. 하버드 출신 수학자인 저자는 월가 헤지펀드와 IT 기업에서 경험했던ﾠ진실을 왜곡하는데 사용하고 있는 빅데이터 기반의 알고리즘을 대량살상 수학무기라 부르며 그 위험성을 경고하고 있다.
수학적으로 완벽한 알고리즘은 단지 개발자의 의견을 수학적으로 표현한 것 뿐이지만 대부분의 사람들은 공명정대하고 객관적이라고 받아들인다. 이를 이용해 수학적 기법들이 진실을 왜곡하는 도구로 만연하게 사용되고 있는 현 상황을 오닐은 경고하고 있다. 지난 2008년 글로벌 금융위기의 주범인 수학적으로 완벽했지만 금융회사의 이익을 극대화하는 방향으로 개발되었던 금융상품들은 원하는 현실을 창조하는 대량살상 수학무기의 위험성을 잘 보여준다. 저자는 신용평가, 기업 적성 검사, 범죄자 예측에 이르기까지 효율성을 위해서 도입되고 있는 빅데이터 기반 알고리즘 기술들이 얼마나 비민주적이며 차별적인지 묘사하며 다양한 판단의 권력이 사람으로부터 알고리즘으로 이동하고 있는 현실을 걱정한다.
대학에 몸담고 있다 보니 가장 와 닿았던 대량살상 수학무기는 시사주간지 <유에스 뉴스 앤 월드리포트>가 개발한 미국 대학 평가 수리 모형이었다. 이 수리 모델은 교육과 큰 관련이 없어 보이는 시사주간지가 정한 임의의 기준을 바탕으로 대학 순위를 매기는데 그 기준에 많은 문제점이 있어 초기에는 대학들이 거부하고 반발하였다. 하지만, 순위에 처진 대학은 학생들의 외면을 받게 되자 현재는 많은 미국 대학들이 주간지에서 정한 기준에 맞추려 필사적으로 노력하고 있다. 안타깝게도 비슷한 상황이 현재 국내에서도 진행 중이다. 이러한 대학 평가 모형은 모형의 오류에 대한 피해가 개발자가 아닌 사용자에게 전가되는 대량살상 수학무기의 전형적인 특징을 보여준다.
물론 이러한 대량살상 수학무기의 특징이 모든 수리모형에서 나타나는 것은 아니다. 다양한 야구 통계자료를 바탕으로 각 구단의 승률을 예상하는 머니볼이나 여론 조사 결과로부터 대통령 당선확률을 예측하는 모형 등은 제대로 에측하지 못하면 대학평가 모형과 달리 사용된 수리 모형을 수정해야한다. 머니볼이 예상한 구단 순위에 적합하지 않았다고 구단들이 머니볼이 사용하는 평가기준을 충족하기 위해서 노력할 필요도 없다.
우리 자신 역시 알게 모르게 다양한 빅데이터 알고리즘에 의해서 평가를 받고 있고, 많은 미래의 직업들이 이러한 알고리즘을 개발하는 것과 연관될 것이라 예상된다. 이 책은 주어진 혹은 우리가 개발한 알고리즘이 살상무기인지 판별을 위해서 적어도 두 가지 질문을 던져보자고 이야기 한다.
“알고리즘의 오류에 대한 책임이 사용자에게 전가되고 있는가?”
“알고리즘의 오류를 사용자가 자유롭게 지적하고 정정을 요구할 수 있는가?“