얼마 전 썼던 글처럼… 아래 워린버핏이 했다는 아래 말들이 걱정하는 것도 아마… AI에 의해 인간이 멸종 위기에 처하는 것인 듯하다. 마치 원자폭탄이 인간을 멸종시킬 수 있는 가능성을 내포하고 있는 것처럼 말이다.
원자폭탄도, AI도 그동안 인간 스스로가 만들어 출현시킨 수많은 판도라 상자들 중 하나고, 결국 그것들에 의해 멸종 위기에 내몰리게 될 가능성이 매우 높다. 원자폭탄은 스스로 판단 선택하지 못하지만… AI는 스스로 판단 선택의 행위 수행이 가능하니… 위험성은 더 높아진 셈이다. 어쩌면 인간은 점차 멸종의 운명 속으로 스스로 기어들어가고 있는 것일지도 모르겠다.
아래 글도 그렇고, AI 관련한 이런저런 글을 읽고 나면… 이런저런 생각을 유발시키키는데… 생각만 유발할 뿐 해법, 대안, 대처방안 등은 거의 떠오르지 않는다. 그저 인간을 믿고, 인간에게 희망 갖는 것 외에 달리할 수 있는 것이 없어 보인다.-.-;
AI는 전방위적으로 세상의 모든 것들을 완전히 바꾸어 놓겠지만… 구체적으로 어떻게 바꿔놓을지 알 수는 없다. 누구도 미래는 예측할 수 없기 때문이다. 인간은 단지 지난 후에야, 겪은 후에야 결과론적 분석을 하며 뒤늦은 회한에 잠길 뿐이다.
워런 버핏이 AI의 출현을 보고 한 의미심장한 말들
출처: https://theqoo.net/square/3568560171
원자폭탄 VS AI
"원자폭탄이 지금까지 인류가 만든 유일한 램프의 요정 지니라고 수도 없이 말해왔습니다. 한 번 램프에서 빠져나온 지니가 당장의 문제는 해결해 주었지만 그 지니를 다시 램프안으로 넣는 건 영원히 불가능해졌죠. 그 지니는 매우 좋은 용도로 사용될 수도 있지만 매우 안 좋은 용도로 사용될 수도 있습니다. 그리고 역사적으로 모든 지니와 기술들은 시간이 흐름에 따라 점점 더 진입장벽이 낮아지고 넓게 전파가 되는 습성을 지녔습니다. 마치 에너지가 한 방향으로만 흐를 수밖에 없는 물리법칙처럼요. 저는 AI에 대해 자세히는 모르지만, AI가 원자폭탄과 더불어 우리가 램프에서 해방시킨 또 하나의 지니라고 추측이 됩니다. 다시 램프에 넣는 건 불가능할 겁니다."
원자폭탄에 집착하는 이유
워런 버핏은 아주 옛날부터 원자폭탄에 집착을 해온 이력이 있다. 이는 워런 버핏의 회사 버크셔 해서웨이의 주 업종 중 하나가 보험업이기 때문이다. "잘해야지 성공" 하는 다른 산업들과 달리 보험업은 "큰 위험만 피하면 성공"이라는 다른 성공 기준을 가지고 있기 때문에 워런 버핏은 큰 위험이 될 수 있는 것에 대해서 유난히 집착하는 것으로 알려져 있는데 원자폭탄의 발명은 그런 그에게 있어 풀리지 않는 문제일 수밖에 없는 것이다. 많은 사람들이 미국과 러시아, 중국 같은 강대국들이 원자폭탄 기술을 현명하게 잘 관리할 거라고 낙관적으로 믿는 경향과 달리 워런 버핏은 여전히 원자폭탄이 필연적으로 인류멸망의 넘버원 이유라고 굳게 믿고 있다. 보험업을 하는 그의 특성상 "잘못될 수 있는 일"은 시간이 흐름에 따라 무조건 다시 일어나는 걸 잘 알고 있기 때문이다. 평생 원자폭탄 무쇠로 살던 워런 버핏이 AI를 원자폭탄과 비슷한 특성을 지녔다고 말하는 건 매우 놀라운 일이다.
생산 버튼
"이런 상상을 해봅시다. '생산 버튼'이라는 게 존재합니다. 오전 9시에 어떤 사람 한 명이 가서 그 버튼을 누르기만 하면 지금 인류가 누리고 있는 모든 서비스와 상품들이 자동으로 생산됩니다. 그 사람이 해야 할 일은 매일 오전 9시에 출근해 그 버튼을 누르면 됩니다. 그러면 우리 인류는 원하는 모든 것을 얻을 수 있게 됩니다. 물론 이건 우스꽝스러운 상상이지만 AI는 아마 그런 방향으로 세상을 힘차게 밀어갈 것입니다. 이건 사실 사회적으로 굉장히 좋은 일입니다. 애초에 우리 인류가 부유해진 방식이 정확히 이런 패턴이기 때문입니다. 문제는 이런 세상이 실제로 구현되면 우리 인류는 엄청나게 해결하기 힘든 새로운 문제들에 직면할 것입니다. 우리가 알고 있는 인간관계, 정부와의 관계, 민주주의, 부의 분배 모든 것들이 이러한 세상이 오면 큰 위협을 받을 것이기 때문입니다."
차라리 1년에 인구 25%씩 실업자가 되는 세상이 오기를
("워런 버핏 파트너" 찰리 멍 거가 거들며) "전 오히려 AI가 1년에 인구 25%씩을 실업자로 만드는 상황은 괜찮다고 봅니다. 그런 상황이 오면 인류는 보통 설루션을 찾습니다. 문제는 AI가 1년에 인구 2% 미만씩 천천히 인류를 실업자로 만드는 상황입니다..... 그런 건 저희 인류가 잘 다뤄왔던 문제들이 아닙니다. 디트로이트(자동차 공업지대)를 보시면 뭔 뜻인지 아실 겁니다."
인류 전체가 쿠웨이트 왕족화
("워런 버핏 파트너" 찰리 멍 거가 거들며) "'생산 버튼'이 어떤 사회를 만들지 궁금하다면 쿠웨이트 왕족들이 어떻게 살고 있는지 보십시오. 그 사람들이 부럽다고 말할지 모르겠지만. 거의 모든 사람들이 그 사람들처럼 살고 있다고 상상해 보십시오. 부동산 중개업자, 골프강사나 헤어 디자이너는 꼭 필요한 사람들이지만 세상 모든 사람들의 직업이 부동산 중개업자, 골프강사나 헤어 디자이너라 생각해 보십시오. 전 그런 세상에 살고 싶지 않습니다."
*워런 버핏은 특정국가, 기업, 인물 이름을 거론 안 하는데 찰리 멍거는 맨날 그대로 언급해서 물의를 일으키곤 한다
여가시간
"AI가 인류의 여가시간을 기하급수적으로 늘릴 확률은 매우 높습니다. 저는 이게 어떤 결과를 낳을지 잘 모릅니다. 근데 이거는 압니다. 많은 사람들이 일을 시작할 때 더 많은 여가시간을 바랍니다. 근데 실제로 사회적으로 성공해서 더 많은 여가시간을 얻고 나면 그 사람들 중 대부분은 자기에게 필요한 건 더 많은 여가시간이 아니라 더 많은 '진짜 일거리'라는 걸 깨닫습니다. 저는 현재 더 많은 여가시간을 원하는 평범한 사람들도 이 패턴에서 크게 벗어날 거라 생각하지 않습니다....... AI가 만약 제 안 좋은 상상처럼 전개된다면. 먼 미래에 인류는 우리가 해결할 문제들이 있던 시절을 그리워할 확률이 높습니다."
몇 년 전까진 진지하게 대답 안 했음
워런 버핏이 AI에 대해 진지하게 대답하기 시작한 건 오래된 일은 아니다. 사실 워런 버핏이나 그의 파트너 찰리 멍거 둘 다 몇 년 전까지는 AI에 관련된 질문을 받아도 "난 AI 잘 몰라~" "인간 지능이 기계 지능보다 더 쓸만하지 ㅎㅎ" "그때 되면 난 어차피 죽고 없어 ㅎㅎ"하면서 대수롭지 않게 여기는 모습을 보여줬다. 하지만 2~3년 전을 기점으로 갑자기 AI 관련 질문들에 진지하게 대답하기 시작한다. 특히 가장 최근 2024년 주주총회에서는 자신이 평생 가장 두려워했던 원자폭탄과 비교를 할 정도로 가장 진지하게 AI 관련 질문에 대한 답변을 해서 AI에 대해 급격히 바뀐 워런 버핏의 태도를 느낄 수 있었다.
*찰리 멍거는 진짜 자기 말대로 죽고 없어져서 AI에 대해 더 이상 걱정하지 않고 쉬는 중
그래서 우리 인류는 어떻게 대응해야 하나요?
"그걸 내가 어떻게 알아요"
*워런 버핏은 모르는 건 모른다고 말하는 편
