-인터넷에서 본 적 있으신가요?
나는 로봇이 아닙니다를 체크한 후에 신호등이나 횡단보도를 고르라는 문제들.
바로 웹사이트에서 봇의 접근을 막기 위해 만들어진 인증 시스템, 캡차 퍼즐인데요.
최근 GPT4에게 이 캡차 퍼즐을 풀게 하는 실험을 했다고 합니다.
AI는 퍼즐을 스스로 풀 수는 없었지만 온라인 사이트를 통해 사람에게 접근해
자신이 시각 장애인이라 그림을 보지 못한다고 속인 뒤 퍼즐을 대신 풀게 해 문제를 해결했는데요.
여기서 문제는 그 누구도 GPT에게 거짓말을 가르친 적이 없다는 겁니다.
오늘은 기계가 인간을 이용하는 시대, AI 혁명의 이면을 유발 하라리의 넥서스를 통해 탐구해 봅니다.
-지식과 정보를 연구하는 사람인데 우리가 일반적으로 지식이라고 하면 사람들 머릿속에 들어있는 어떤 고정된 개체이고요.
그것을 전달할 필요가 있을 때 그것을 정보화해서 전달 가능한 형태의 지식으로 만들어서,
정보화해서 사람들에게 전달하는데 정보라는 것은 그 자체로는 전달이 안 되기 때문에 어떤 그릇에 담아서 전해 줘야 합니다.
이 그릇을 우리가 보통 매체 또는 미디어 이렇게 부르죠.
그런데 최근에 뉴 미디어가 등장을 하면서 굉장히 많은 양의 정보를 사람들에게 전달시키는 것이 가능하게 되었고.
그렇게 되다 보니까 사람들이 그 수많은 정보 중에서 나한테 맞는 것을 고를 수가 없어서 기계가 그 선택 기능을 해 주게 된 거죠.
즉, 그 소셜네트워크 알고리즘에 의해서 기계가 선택해서 제공해 주는 그런 정보들은,
결과적으로는 소셜네트워크 알고리즘은 이용자를 붙들어매둬야 하기 때문에 이용자들이 듣고 싶어 하는 것,
보고 싶어 하는 것, 달콤한 것, 자극적인 것.
그런 것들 위주로 선택해 주고 제공하게 되는 거고 거기에 사람들이 일방적으로
이렇게 매어 가다 보면 결과적으로는 내가 믿고 싶은 것, 알고 싶은 것만 집중적으로 알게 되는 그런 일종의,
소위 말하는 확증 편향이 생긴다는 거죠.
그런 확증 편향에 관련된 이야기들이 굉장히 요즘 문제가 많이 되고 있는 거죠.
대화와 타협이 사라지고 갈등이 생기는 그런 이유들이 결국은 이런 데 기인한다고 보고 있습니다.
사실 사람이 몸의 건강을 지키려면 음식을 골고루 먹어야 하는 것처럼 두뇌와 정신의 건강을 지키기 위해서는
다양한 정보들을 섭렵을 해야 하는데 기계가 제공해 주는 알고리즘에 의한 정보 입수는
불행히도 그런 면이 굉장히 약하게 되는 거죠.
그러니까 말하자면 정보의 편식이 소셜네트워크의 알고리즘에 의해서 일어나고 있다.
그리고 그것들이 사회적인 갈등의 원인이 되고 있다.
이런 생각을 좀 하고 있었습니다.
그런데 그런 와중에 이 책을 발견하게 되었고 이 책의 핵심은 인류의 역사가 결국은 정보 네트워크와 거기의
연결고리, 이거를 넥서스라고 하는데, 이것을 중심으로 발전해 왔고 AI 혁명도 그 연장선에 있다고 보는 거죠.
그래서 재미있겠다 싶어서 책을 들고 읽기 시작했는데 양이 많아서 고생은 좀 했지만 굉장히 재미있는 책이었다,
이렇게 생각하고 있습니다.
-(해설) 사피엔스와 호모 데우스 등의 책으로 우리 시대 가장 중요한 사상가의 반열에 오른 유발 하라리 교수가
AI혁명의 의미와 본질을 압도적 통찰로 꿰뚫어 보고 인류에게 남은 기회를 성찰하는 책입니다.
석기시대부터 AI까지 정보 네트워크라는 새로운 관점으로 인류 역사를 재구성했습니다.
-아까 말씀드린 것처럼 이 책의 핵심은 인류의 역사가 정보 네트워크의 발전 과정을 통해서 진화되어 왔다.
이런 이야기인데요.
처음에 사람들이 공유하고 싶은 정보들을 스토리, 신화를 통해서 공유를 했다면 그 이후에 법과 제도가 생기면서
문서를 만들기 시작했고 인간의 상호 작용이 문서에 담기기 시작했다.
그리고 그 문서를 가지고 있는 아카이브라든지 도서관 같은 기관들이 그 문서를 보존하고 공유시켰을 테고 따라서
문서를 가지고 있는 기관, 가지고 있던 교회나 관료들이 권력을 쥐게 된 거죠.
말하자면 정보의 독점을 통해서 권력을 쥐게 된 건데, 그 정보 독점이 깨진 계기가 인쇄 혁명.
인쇄술의 발명이라는 거죠.
누구나 인쇄술을 통해서 신문을 찍어낼 수 있게 되고 책을 만들어 낼 수 있게 되니까
그걸 통해서 정보가 확산이 되고 과학 혁명도 가능하게 됐다는 겁니다.
그런데 그때까지만 하더라도 그런 모든 과학 혁명의 핵심 기관들에는 자정 장치들이 있었다.
스스로 견제하고 복수의 기관들이 서로 간에 견제를 하는 그런 장치가 있었는데
불행하게도 지금 AI 혁명 시기에 그런 자정 장치가 사라졌다는 게 이 하라리의 지적입니다.
지금 AI는 스스로 결정하고 스스로 판단하고 스스로 확산시키는 그런 기능을 하고 있고 말하자면
지금 AI 시대에 있어서 사람은 결국은 하라리 표현을 빌리면 관심을 채굴하는 광산에 불과하다.
개인뿐만 아니라 국가나 사회도 AI가 추천해 주는 그 순서에 따라서 사회적인 결정,
정치적인 결정을 내리고 있는 게 아니냐, 해서 이 부분에 대해서 굉장히 강하게 경고를 하고 있습니다.
그래서 유발 하라리가 대안으로 제시한 것은 일단 정보 기술을 받아들이지 않을 수는 없기 때문에 정보 기술을
반드시 좋은 목적으로 사용해야 한다는 점.
그리고 여러 기관들을 동시에 두어서 서로 상호 견제가 가능하도록 해야 한다.
그리고 정보기관들이 우리의 데이터, 우리의 정보를 가지고 가잖아요.
그것만큼 자기들도 자기들의 정보를 공개하는 정도의 투명성을 보장해 줘야 한다.
그것이 대안이라고 하라리는 이야기를 하고 있습니다.
-(해설) 하라리 교수는 스스로 목표를 추구하고 결정을 내릴 수 있는 컴퓨터의 출현이
정보 네트워크의 근본적인 구조를 변화시킨다고 주장합니다.
초지능을 지닌 컴퓨터들의 목표가 인간이 설정한 목표에 부합하지 않을 경우 인류가 지금까지 한 번도 겪어보지 못한
규모의 재앙이 일어날지도 모른다고 경고합니다.
-하라리의 지적에 의하면 전통적인 매체 혁명과 지금 AI 혁명의 가장 큰 차이는 자정 장치가 있냐, 없냐는 겁니다.
그런데 사실 이 자정 장치라는 게 굉장히 중요한데 민주주의 사회에서 가장 핵심적인 원리는
누구나 본인이 생각하고 있는 것을 자유롭게 표현할 수 있어야 한다는 거죠.
말하자면 표현의 자유인데, 이 표현의 자유에는 반드시 책임이 따르기 때문에 표현의 자유라는 게 생각하는 것을
무턱대고 이야기하는 것은 아니고 내가 책임질 수 있는 범위 내에서 내가 이야기하고 있는 것이
충분히 검증되고 사실에 부합한다는 전제를 가지고 표현해야 하는 거죠.
그런데 지금 불행히도 그렇지 못한 것이 현실이고.
그런데 인류 사회는 여태까지 사람들이 표현의 자유를 구가하기 위해서 그런 검증 과정,
자정 과정을 할 수 있도록 여러 가지 기관들을 만들어 두었습니다.
언론사가 대표적인 케이스고, 예를 들면 도서관 같은 곳이 그렇습니다.
도서관 서가에 가보면 특정 이슈에 관해서 정말 수백 년 동안 많은 학자들이 써 놓은 여러 가지 책들이 있는데
그것들 중에 일부라도 섭렵해 보고 내 의견에 확신을 가질 수 있을 정도로 내공을 쌓으라는 거죠.
그러고 난 다음에 자유롭게 표현할 수 있는, 그런 내공, 그런 자세가 AI 시대에 더더욱 필요한 게 아니냐는 게
제가 사실 드리고 싶은 말씀이고요.
그리고 AI가 지금 제공해 주는 여러 가지 편리한 서비스들이 단지 편리하다는 이유만으로 무턱대고 거기 매몰될 것은 아니다.
오히려 답은 아날로그에 있는 게 아닌가라는 생각을 하는데요.
제러미 리프킨이라고 하는 미래학자가 하는 이야기 중에 토끼 이야기가 있습니다.
내가 토끼 전문가라고 이야기를 하려면 데이터를 다 섭렵을 해서 분석을 해서
토끼의 생태 습관은 어떻고 기초 체온은 어떻고 토끼가 수명은 어떻고 등등 다 좋다 이거죠.
그렇게 그것만 가지고 토끼 전문가라고 말할 수 있냐.
밖에 나가서 토끼를 직접 안아보고 토끼털의 그 부드러움을 느껴보고 심장이 콩콩 뛰는 그걸 느껴보지 않은 상태에서
내가 토끼 전문가라고 말할 수 있냐. 거기에 저는 답이 있다고 보고요.
오히려 정답은 현장과 아날로그에 있는 게 아닌가, 그런 생각을 합니다.
-AI는 이제 그저 도구가 아니라 스스로 결정을 내리고 새로운 아이디어를 만들어내는 능동적인 존재가 됐습니다.
과거엔 기술이 사람들을 연결하는 역할을 했다면 이제는 사회와 역사를 주도하는 강력한 구성원이 되고 있는 건데요.
이렇게 네트워크가 막강해질 때는 자정 장치가 중요해집니다.
하라리 교수는 민주주의 국가는 정보 시장을 규제 할 수 있으며 민주주의의 생존 자체가 이런 규제에 달려있다고 했는데요.
우리가 이번 혁명에서도 AI와 공존하면서도 스스로를 잃지 않는 길을 지혜롭게 헤쳐 나갈 수 있길 바랍니다.
행복한 책 읽기, 임혜림입니다.