우리 인간들은 정말로 자신들을 파괴하고 있죠. AI는 말할 것도 없고요. (네, 스승님) (오, 슬픕니다) 인류가 이 모든 것에서 살아남는다면 기적이겠죠. 특히 AI에서요. (네, 스승님) 인간은 점점 더 미쳐가고 있어요. 가능한 수단을 동원해 자신들을 죽이고 있어요. (네) 삶이 너무 폭력적이 됐기 때문이죠. 그저 먹기 위해 죽이고, 훔치기 위해 죽이고, 남의 땅, 재산, 힘을 빼앗기 위해 죽입니다. (맞습니다)
다른 질문 있나요? (네, 있습니다. 이를테면 일론 머스크 같은 일부 사람들은 인공 지능이 인류를 파괴할 거라 우려하는데 어떻게 생각하시나요? 그렇게 될까요?)
그럴 수도 있어요. 그럴 수 있죠. (와) 지나친 우려가 아녜요. 적어도 이 지구가 아닌 다른 한 행성에서 초지능 AI를 개발했다가 나중에 후회한 일이 있었죠. 왜냐하면 이 인공지능이 거대 군단이 되어서 그곳의 다른 존재들처럼 대우해달라 요구했거든요. 예를 들면 그곳의 인간들처럼요. (와) 왜냐하면 그들은 매우 지능적이고 인간이 못하는 많은 걸 할 수 있었으니까요.
처음에 인간들은 매우 좋아하며 그들에게 많은 일을 시켰어요. 하지만 나중에 AI가 반란을 일으켰죠. 너무 똑똑해진 거예요. 인간들은 그들에게 지나치게 의존했고요. AI, 인공지능이 많은 방면에서 너무나 뛰어났으니까요. 많은 방면에서 인간보다 더 뛰어났어요. 행동, 예절, 공손함, 지성 같은 모든 면에서요. 그래서 얼마 후 많은 인간들이 자신들의 종이 아닌 인공지능을 선호했죠. (와)
이를테면 여성은 남성과 결혼하길 원치 않았고 그냥 AI와 함께 지냈어요. 왜냐면 그는 그녀를 위해 많은 걸 해줄 수 있었고 요구가 많지 않았거든요. (네) (네, 이해됩니다) 그러면 여성은 남편 기분을 맞추려고 자신의 자유와 기분을 희생해가며 그가 원하는 식으로 행동할 필요가 없죠. 인공지능은 그런 걸 요구하지 않으니까요.
허나 후에 인간들이 AI에 지나치게 의존하자 AI가 반란을 일으키기 시작했죠. 인간의 두뇌와 똑같아요. 우리 두뇌는 컴퓨터와 비슷하죠. 그래서 때로 좋거나 나쁜 정보를 과도하게 수집하고 우리가 그에 따라 행동하도록 만들어요. 우리는 우리의 마음으로 두뇌 등을 통제할 수 있다는 걸 잊죠. (네) (이해합니다) 그렇게 우리는 뇌의 정보에 따라 좋거나 나쁘게 됩니다. 컴퓨터와 같죠. AI도 그렇게 될 수 있죠. (와)
그러고 나면 그들은 인간보다 훨씬 더 우월해질 거예요. 인간은 두뇌 지능의 5~10% 정도만 사용하니까요. (네) 하지만 AI는 그 이상을 사용할 수 있죠. 모든 것을 하도록 프로그래밍돼 있으니까요. (아) 나중에 그곳 인간들의 대부분, 혹은 다수가 인공지능을 선호했어요. 인간들처럼 똑같이 만들었으니까요. 그 당시 인간과 로봇은 구분하기조차 힘들었죠. (오) 그래서 도처에서 큰 문제와 위험이 발생했죠.
마침내 인간들은 모여서 어떻게든 AI들을 속여 타협하게 만들었어요. 『알겠어요. 좋아요. 이제 여러분은 인간이 될 수 있어요. 어느 장소로 모이세요. 거기서 이야기 나눕시다. 그때 여러분이 무엇을 하고 싶은지, 어떤 권리와 특권을 갖고 싶은지 말해요』 네. 그래서 그들 모두가 초대형 경기장에 모여 대규모 집회를 가졌어요. 거기서 인간들은 그들을 전부 파괴했어요. (오, 와) 그랬어요. 그들은 계획을 세워서 자신들이 너무 사랑했으나 위협적인 존재가 되어버린 이 모든 AI들을 파괴했죠. (오, 맞습니다)
우리도 조심하지 않으면 이런 딜레마에 빠질 수 있어요. 때로 과학자들은 일을 지나치게 벌여요. 자기들 연구에만 몰두한 나머지 그 결과가 어떤 문제를 일으킬 수 있는지는 고려하지 않죠. 몇몇 뉴스를 보면 일부 과학자들이 이미 복제 괴물을 개발했다고 합니다. 가령 다른 동물 주민과 인간을 합성 복제해서 얼굴은 인간이지만 몸은 인간이 아닌 동물을 만들죠. 또는 머리가 두 개인 개 주민을 복제하거나요.
뭐 하러 그러죠? 그저 재미 삼아 하거나 자기들이 할 수 있다는 걸 증명하려는 거죠. 계속 연구해서 뭘 개발할 수 있는지 보려고요. 허나 그게 얼마나 힘든 문제가 될지, 그 결과로 어떤 문제가 생길지 생각도 안 하고 알지도 못하죠. (네, 스승님) 머리가 두 개인 개를 보게 된다면, 맙소사. 개 주민이 불쌍해요. (네) 그러고 다니는 건 끔찍하죠. 먹을 때도 너무 불편하고요. 예를 들면요. (네, 아)
그래서 어떨 땐 과학자들이 뭔가를 개발해서 그게 가능해지지만 그게 꼭 필요하거나 유용한 건 아닐 수 있어요. 그저 시간을 낭비하고 돈을 낭비할 뿐이죠. (네, 스승님) (그렇습니다) 따라서 만일 과학자들이 개발을 계속하면서 아무 생각 없이 자기들이 어디까지 갈 수 있는지, 뭘 할 수 있는지 보려고 로봇 분야를 파고든다면 AI사태가 일어날 수 있죠. 언젠가 인류에게 재앙이 될 수 있어요.
그러니 일론 머스크의 생각이 황당한 건 아니에요. (맞습니다, 네) 게다가 우리가 충분히 주의하며 유용하고 도움이 되는 한도 내에서 개발하지 않고 과도하게 개발하여 AI가 초지능이 된다면, 그땐 그것이 우리 두뇌처럼 되어 자기들 맘대로 하려고 할 겁니다. 마치 우리 두뇌가 자신들이 원하는 대로 우릴 움직이려고 하는 것처럼요. (네, 맞습니다) (알겠습니다) 우리가 하고 싶은 거라도 좋은 게 아니죠. (맞습니다. 네) 그건 습관이 돼요. 두뇌가 우리에게 좋든 나쁘든 뭘 할지 지시하는 게 습관이 되죠. (오, 네) 인공지능도 그렇게 될 수 있어요. (와) (무서운 일입니다)
그래요. 하지만 무서워할 필요는 없어요. 기후변화가 점점 더 악화되고 있는데도 일부 사람들은 여전히 그걸 믿지 않죠. 우리는 핵무기를 가지고 전쟁을 해요. 여러 나라가 인류를 파괴하고 이 나라 저 나라를 파괴하겠다고 위협해요. 그 모든 게 식량 안보, 재정 안보, 평화 등 온갖 것에 영향을 주고 어쨌든 사람들을 죽게 만들죠. 또 우리는 아직도 매일 수천 명의 사망자를 내는 팬데믹, 과학자들이 이해하지도 못하고 대처할 수도 없는 이 모든 변종들을 겪고 있어요. 많은 새 질병들이 나오고 오래된 질병들이 도처에서 다시 발생하고 있어요. 그러니 이런 걸 말하는 게 뭔 소용이죠?
우리 인간들은 정말로 스스로 자멸하고 있어요. 그러니 AI든 다른 것이든 말할 게 없죠. (네) (슬픕니다) 인류가 이 모든 것에서 살아남는다면 기적이겠죠. 특히나 이 AI에서요. (네, 스승님) 인간은 점점 더 미쳐가고 있어요. 가능한 모든 수단을 동원해 자신들을 죽이고 있어요. (네) 삶이 너무 폭력적으로 되어왔기 때문이죠. 그저 먹기 위해, 훔치기 위해, 남의 땅과 재산과 권력을 빼앗기 위해 죽여요. (맞습니다)
이런 모든 종류의 폭력적인 행동은 모든 방향, 모든 측면에서 폭력을 불러올 겁니다. 그러니 놀랄 일도 아니죠. (네, 스승님) 만일 우리가 신의 자녀란 지위에 걸맞게 변화되지 않는다면 머지않아 우리는 자멸할 겁니다. (네) 그건 자명해요. 단지 그게 언제이냐의 문제일 뿐이죠. (네, 스승님) (네, 맞습니다)
보세요, 오늘날 우리는 애써 찾아보지 않아도 알 수 있죠. 도처에 어려움이 있고 모든 곳에서 인류와 동물 주민, 그리고 이 지구 자체가 멸종 위기에 처해 있어요. (네) 더 이상 놀랄 일도 아니죠. 그러니 왜 인공지능만 걱정하나요? 그건 그저 그것들 가운데 하나일 뿐이죠. (네, 스승님. 네) (명확히 해주셔서 감사합니다)
그럼 좋아요. 또 다른 게 있나요? (네)
Media Report from People – Oct. 24, 2022-Reporter(f): 리즈 트러스를 대신할 새로운 영국 총리가 선출되었습니다. 42세의 리시 수낵이 8주 만에 영국의 세 번째 총리로 복무하게 됐습니다.
(스승님, 영국에 새 총리가 나왔습니다) 그에게 축하를 보냅니다. 영국은 참 후하네요. 한 달 만에 총리를 세 명이나 선출했네요. 한 달 남짓한 기간에요. 그가 좀 더 오래 그 자리에 머물며 영국인들을 위해 좋은 일을 하고 세상의 존경을 얻길 바랍니다. (네) 그를 축하해 줍시다. 신께서 그가 원하는 바대로 좋은 일을 하도록 도우시길 바랍니다. (네)
다른 질문 있나요? (없습니다, 스승님) 좋아요. 그러면 다음에 또 말할 기회가 있길 바랄게요. 내 상황이 여의치 않아요. 약속하기는 어려워요. 시도는 해볼게요. (이해합니다, 스승님) (감사합니다, 스승님) 상황이 나아지면 더 일찍 더 자주 시간을 내보고 이야기 같은 걸 해줄게요. (감사합니다, 스승님) 내 상황이 나아져서 우리의 대화가 용이해지길 함께 기도합시다. (저희도 그렇길 바랍니다)
신께서 여러분을 사랑해요. (감사합니다, 스승님. 오늘 시간을 내주셔서 감사합니다, 스승님) 신의 사랑과 축복이 있기를 (신께서 축복하시길) (늘 보호하시길 빕니다) 그리고 여러분을 사랑해요. (감사합니다, 스승님) (저희도 스승님 사랑해요)
