좋은 책
알고리즘 "삶, 우주 그리고 모든 것"을 바라보는 관점을 근본적으로 변화시킨다.
"배의 발명은 곧 난파의 발명이었다."
물론 이 문장을 뒤집어서, 난파를 발명한 사람은 곧 배를 발명한 사람이라고 말할 수도 있다.
내가 하려는 이야기는 알고리즘이 오락에서 인간관계에 이르기까지 삶의 모든 측면에 미치는 무수한 방식에 대한 것이다.
"구글의 복지가 지나치게 보일 때도 있다..... 하지만 구글에 사악해지지 않기 위해서 그런 혜택을 베푼다고 생각하면 오산이다.
구글은 직원들이 복지 혜택에 어떻게 반응하는지에 대해 다량의 데이터를 꼼꼼히 모니터링하고 있으며...돈을 허투루 낭비하는 법이 없다."
아마존 물류 창고는 어마어마하게 크기 때문에, 출발점에서 도착점에 이르는 최단 경로를 도출하기 위해 길 찾기 알고리즘을 사용한다.
그러나 포켓용 컴퓨터가 하는 일은 이것만이 아니다.
직원이 얼마나 빨리 걷고 주문을 완료하는지 감시하는 실시간 데이터스트림을 끊임없이 수집하여 직원의 생산성을 수량화하는 것 또한 컴푸터가 하는 일이다.
자유지상주의적 기술론자들의 몽상인 자유롭고 공정하고 모든 목소리에 귀 기울이는 세상과 달리,
코드와 알고리즘적 문화의 핵심 구성 요소는 정렬하고 분류하고 위계질서를 만드는 소프트웨어다.
구글 같은 기업이 벌어들이는 수익의 상당 부분은 이용자가 만들어내는 인지 자본 덕분이기 때문에,
이런 소프트웨어 정렬 행태는 "디지털 카스트 제도 다위는 존재하지 않는다"는 통념을 반박하는 직접적 증거다.
"우리에 대한 데이터가 어찌나 은밀하고 복잡하게 흐르는지, 가격 차별이 언제 시작되는지 조차 모를 지경이다.
그저 다른 가격, 다른 뉴스, 다른 오락만 볼 뿐이다."
영국의 철학자이자 사회 이론가 제러미 벤담이 18세기 후반에 설계한 감옥이다.
커다란 감시탑 주변에 원형으로 감방을 배치하는 이론적 근거는 수감자들이 항상 감시당한다면 고분고분하게 행동하리라는 것이다.
행동을 규제하고 모두 똑같이 행동하도록 하는 데는 감시탑 하나가 쇠몽둥이 못지않게 효과적이다.
포획의 장치와 자유의 장치는 어찌나 단단히 뒤엉켜 있는지 떼어놓기가 불가능할 정도다.
프랑스의 철학자 자크 엘륄은 <기술의 역사>에서 미래의 시민이 자신이 원하는 모든 것을 가질 수 있되,
자유만은 가질 수 없을 것이라고 주장했다.
신탭은 술집 400여 곳에 카메라를 섩치하고,안면인식기술과 인원수 세기 알고리즘을 이용하여 오늘 밤에 어느 술집이 물이 좋은지 알려준다.
이 앱은 현재 각 술집의 손님 인원수, 성비, 평균 연령 등의 정보를 실시간으로 제공하는 데, 이것이 전부가 아니다.....
특허에는 카메라에 마이크를 달아 손님들이 무슨 이야기를 하는지 엿듣는다는 내용도 있고, 안면인식 기술을 이용하여 사람들의 신원을 확인하고
소셜네트워킹 프로필과 연동하여 연애 상태, 지능, 교육 수준, 소득을 파악한다는 내용도 들어 있다.
나중에는 성병 여부도 알려줄 것이 분명하다.
저명한 심리학자 미하이 칙센트미하이와 유진 로크버그핼턴을 비롯한 여러 심리학자들은 이른바 정신 에너지라는 의미 창조 과정을 연구했다.
이 개념은 사람이 어떤 대상에 정신 에너지를 더 많이 쏟을수록 더 많은 의미를 부여하게 되어 대상이 더 중요해지며 애착이 더더욱 커진다는 것이다.
"외로움이 무섭지만 친밀함이 두려운 우리는 자아가 텅 비고, 단절되고, 비현실적이라는 느낌을 어디에서나 경험한다.
이 지점에서, 정서적 요구를 하지 않는 동반자인 컴퓨터가 타협안을 내놓는다. 이제는 혼자여도 외롭지 않다.
상호작용하면서도 다른 사람 때문에 상처받지 않는다."
"누구나 인간의 편견과 비일관성을 끔찍이 싫어해요. 이와 동시에 컴퓨터가 할 수 있는 일에 대해 지나치게 확신하죠:라고 말한다.
시트런은 "우리는 알고리즘이 객관적이라고 생각해서 신뢰하지만, 그 알고리즘을 만드는 것은 사실 인간이므로 온갖 편견과 관점이 알고리즘에 스며들 수 있어요"라고 주장한다. 말하자면 컴퓨터 알고리즘이ㅐ 실행 면에서 편견이 없을 수는 있겠지만, 그렇다고 해서 그 속에 편견이 심어져 있지 않으리라는 보장은 없다.
이 장 앞부분에서 언급한 제한속도 알고리즘에서 보듯, 컴퓨터 프로스래머가 작성하는 코드에는 엄청난 가정이 포함된다.
해결하려는 문제가 기계적인 성격을 지닌 경우도 마찬가지다.
기술사가 멜빈 크랜즈버그는 기술의 제1법칙을 "기술은 좋지도, 나쁘지도, 중립적이지도 않다"라고 규정한다.
성공에는 우연적 성질이 있으며, 상위에 링크된 곡들은 미리 선곡에 참여한 취향 선도자들에 의해 초반부터 치고 나간다.
이렇게 정해진 순위는 사람들 간의 피드백을 통해 굳어진다....
심리학에서는 이를 단순 노출 효과라고 한다.
어느 시점에 책 판매량이 티핑포인트에 이르면 사람들은 흐름에 뒤처지지 않으려고 책을 산다.
검토 대상의 성격에 대해 아무것도 모르는 경직된 계산은 예상치 못한 결과를 내놓음으로써 주제에 대한 통념을 깨뜨릴 수 있다.
우리는 글을 읽을 때 온갖 선입견에 차 있다.
그러나 알고리즘은 선입견이 전혀 없다. 고정관념이 깨지고 '아하! 이건 미처 몰랐군'이라는 말이 튀어 나온다.
우리의 선호도는 남들의 생각과 자신의 과거 경험이 어우러진 종합적 관념에 바탕을 둔다.
<멕베스>가 무대에서 어떻게 상연되어야 하는가에 대한 나의 견해는 내가 과거에 본 경험이나 희곡에 대해 알고 있는 사실에 따라 달라진다.
전자책을 비롯한 텟스트를 유통사와 디지털 문지기가 아니라 텍스트의 보전에 이해관계가 있는 독자와 도서관의 통제하에 둘 것을 촉구한다.
지트렌은 텍스트가 변조되었다는 흔적이 전혀 남지 않는다는 사실이 무엇보다 우려스럽다고 말했다.
"과거를 변조하거나 파괴하려거든 [적어도] 종이가 타는 것을 보고 듣고 냄새 맡게 해주어야 한다.
2012년 인스타그램이 10억달러에 페이스북에 매각될 당시, 직원 수는 13명에 불과했다.
그 많던 일자리는 다 어디 갔을까? 그 모든 중간층 일자리에서 창출되던 부는 어떻게 되었을까?
이 문제에 관심을 가진 사람들을 경악시킨 것은 자동화의 무지막지한 결과였다.
속도, 효율성, 금전적 가치를 제공하는 소수의 훌륭한 알고리즘 앞에서는 무엇도 안심할 수 없다.
법학교수 브라이언 타마나하는 <로스쿨은 끝났다>에서, 미국 정부 통계에 따르면 2018년에 로스쿨에서 배툴되는 졸업생은 4만 5000명이나 되지만,
이들을 받아줄 일자리는 2만 5000개에 불과할 것이라고 말했다....
같은 맥락에서 많은 전문가들은 앞으로 10년 뒤에 변호사 수가 10~40퍼센트 감소할 것이라고 전망한다.
어떤 직업이 만물의 공식으로부터 안전한가를 판정하는 새로운 바로미터는 그 직업에 종사하는 사람들의 계층이 아니라 비용과 효율의 균형이다.
최대한 비효율적으로 돌아가도록 진화했으면서도 막대한 금액을 청구하는 직업과 분야(예를 들어, 변호사 회계사, 국회의원)는 자동화가 닥쳤을 때 속절없이 당할 것이다.
저자는 인공지능이라는 용어가 단순히 "사람이 수행할 경우에 지능이 필요한 일"로 분류되지 않고 특정 조건을 필요로 하는 것은 이 때문이라고 설명한다.
물론 여기서 뜻하는 바는 자동화될 수 있을 만큼 간단한 직업에 종사하는 사람은 기계에게 일자리를 빼앗겨도 불평할 권리가 없다는 것이다.
유전 알고리즘이나 생물학적 진화 체계에서와 마찬가지로 변화에 적응하지 못한 개체는 도태된다....
그는 현대 생활의 합리적 기준 목록에 들지 못한다는 이유로 퇴짜 맞고 억울해 하는 사람들을 비판한다.
바디우가 묻는다. 요즘은 이게 게임의 규칙인 걸 모르나?
'블루 칼라' 일자리는 안전하고 '화이트 칼라' 일자리는 불안하다. 스티븐 핑거는 <언어본능>에서 이렇게 말한다.
35년에 걸친 인공지능 연구가 남긴 교훈은 어려운 문제들은 쉽고 쉬운 문제들은 어렴다는 것이다.
우리가 당연한 것으로 여기는 네 살배기 아이들의 정신 능력이라면 얼굴 알아보기, 연필 들기, 방 안 걷기, 질문에 대답하기는 실제로 이제까지 가장 어렵다고 생각해왔던
공학적 문제들을 충분히 해결할 수 있다........ 신세대 인공지능 기계들이 등장하면 어쩌면 주식 분석가, 석유화학 공학자, 가석방 심사위원들은 이 기계들로 대체될지도
모른다. 그러나 정원사, 호텔 안내원, 요리사 같은 직업은 앞으로도 최소 수십 년은 안전할 것이다.
제러미 리프킨이 <노동의 종말>에서 말했듯, "노동의 종말"을 맞을 것이다.
이런 작업장에서는 " 더 적은 숫자의 노동자들이 전 세계 인구를 위한 재화와 서비스를 생산한다."
변호사 수임료에서 엔터테인먼트에 이르기까지 모든 것의 비용이 낮아짐에 따라, 상당수의 일자리도 감소할 것이다.
앙드레 고르는 <프롤레타리아여 안녕>에서 이렇게 말했다.
"인구의 대다수가 후기 산업사회의 신프롤레타리아에 속한다.
이 신프롤레타리아는 불안정한 지위의 보조직. 기간직. 구기술의 노동직. 대체직. 파트타임직을 수행하는, 지위와 계급없는 사람들로 구성되어 있다."
직업 안정성과 계급 정체성이 자동화와 알고리즘적 이용자 프로필로 대체되면, 세상은 이전 세대의 기술유토피아주의가 꿈꾸던
"주당 20시간 노동과 50세 퇴직"을 마팀내 쟁취할지도모른다. 반드시자발적인 것은 아니겠지만 말이다.
과학소설가 아서 C.클라크는 "충분히 발전한 기술은 주술과 구별되지 않는다"라는 명언을 남겼다.
우리가 구글의 능력을 숭배하는 이유 중 하나는 주술과 마찬가지로 최종 결과만 나타날 뿐, 내부의 작동 과정을 전혀 알 수 없기 때문이다.
알고리즘의 작동은 블랙박스에 숨겨질 뿐 아니라, 사실상 찰나에 이루어 진다.
이러한 효과는 기술 문외한을 속여 넘기는 데 그치지 않는다.
저명한 수학자이자 컴퓨터과학자 존 매코믹은 <미래를 바꾼 아홉 가지 알고리즘>의 첫머리에서
"모든 알고리즘의 핵심엔 전체를 움직이게 만드는 기발한 트릭이 있다"고 말한다.
해리 서든은 "많은 경우, 중립성의 환상이죠"라고 말한다.
즉, 많은 사람들은 알고리즘이 객관적이지 않다는 사실이 드러나기 전에는 알고리즘이 객관적이라고 가정한다.
이름난 수학자이자 철학자 앨프리드 노스 호이트헤드는 19세기의 가장 중요한 발명은 발명의 개념이라고 말했다.
어떻게 발명하는지 알게 되면서 비로소 왜 발명하는가 하는 문제의 중요성이 감소했다는 것이다.
기술 옹호자들은 이 견해를 앵무새처럼 되풀이한다.
이들은 윤리 문제를 혁신에 있어서 불필요한 장애물로 여긴다.
정치가가 정치 기자들을 경멸하고 예술가가 미술 평론가들을 혐오하는 것처럼, 생리학자, 물리학자, 수학자들도 대개 비숫한 감정을 품고 있다.
창조하는 사람이 해설하는 사람에게 갖는 경멸감은 무엇보다 의미심장하고 명백히 정당한 것이다.
서명이나 비평, 평론 등은 2류급 인간들이 하는 일이다.
테드 스피파스가 말한다.
"이 알고리즘들이 어떻게 작동하는지 선생님과 저만 모르는 게 아닙니다. 엔지니어들도 완전히 이해하지는 못합니다.
넷플릭스 프라이즈를 보시면, 순위를 정확하게 맞힌 사람들이 늘 하는 말이 자기네 알고리즘이 왜 효과가 있었는지는 모르겠지만, 아쨋든 효과가 있었다는 것입니다.
수학 원리의 관점에서야 어떻게 작동하는지 이해할 수도 있겠지만, 여기에 쓰인 수학이 너무 복잡해서 사람이 이해하는 것은 불가능합니다.
이제 좀 찜짐합니다.
우리가 창조하는 세상을 알지 못하면, 그 속에서 윤리적으로, 또한 성찰적으로 행동하기란 여간 어려운 일이 아닙니다."
"정치인은 망상에 사로잡혀 있어서 나중에는 자신의 거짓말을 진짜로 믿기 때문입니다"
만물의 공식 세상에서 인간성을 지켜내려면 어떻게 해야할까?
강한 인공지능의 원래 꿈이 인간처럼 행동할 수 있는 컴퓨터를 만드는 것이었다면,
이에 반대되는 실용주의적 개념은 인간의 행동을 컴퓨터만큼 예측 가능한 수준으로 축소하는 것이다......
나락에 빠질 위험이 없다면 어떻게 진정한 사랑에 빠질 수 있단 말인가?
설문에 응답하고 알고리즘이 이를 처리하여 맨 마지막 절차로 열정없는 섹스를 나누면 즐거운가?
재런 러니어가 기술 비판서 <디지털 휴머니즘>에서 주장하듯,
"사람이라는 존재는 특허를 낸 공식이 아니라 탐구이고, 수수께끼이며, 종교적 믿음이다."
나는 이용자들이 만물의 공식에 대해 더 많이 알기를 제안한다.
이러한 알고리즘 절차에 대해 아는 것은 인간관계에서 법에 이르기까지 모든 부분에 대해 현재 진행중인 상당수는 논쟁의 핵심이 될 것이다.
슬라보이 지제크가 <마지막 때를 살아가기>에서 주장하듯, 쉽고 빠른 해결책을 추구하는 세상에서 필요한 것은 문제 자체를 문제화하는 급진적 사고방식이다.
이런 질문 중 하나는 알고리즘이 우리에게 해주고 있는 것이 무엇인가만이 아니라, 알고리즘이 애초에 무엇을 하도록 되어 있는가 하는 것이다.
이것은 난처한 질문이자, 특히 서비스가 이용자에게 공짜로 제공되는 것처럼 보이는 경우에는 꼭 물어야 할 질문이다....
이제는 왜 자기에게 이걸 추천하는지 궁금해하는 사람이 늘고 있다.
'좋은 글들 > 책에 있는 글' 카테고리의 다른 글
블록체인 구조와 이론(아카하네 요시하루/아이케이 마나부 지음) (0) | 2019.12.16 |
---|---|
오리진(닐 디그래스 타이슨/도널드 골드스미스 지음) (0) | 2019.12.10 |
대멸종 연대기(피터 브래넌 지음) (0) | 2019.11.17 |
야생의 사고(레비 스트로스 지음) (0) | 2019.11.03 |
아웃사이더 (0) | 2019.10.30 |