★ 의도치 않게 댓글에 결말 스포가 나왔으니 유의하시기 바랍니다;;;;
IAIA의 얼굴마담 아스트라이아는 이렇게 생겼군요.
여기서 말하는 도구에 의한 자동화는 현재 격리되어 사용되는 초고도 A.I들이 언젠가 사회 전면으로
나선다는 것을 의미합니다.
그리고 아라토 넌 기계의 앞잡이가 되는 거고,ㅋㅋㅋㅋ
밈프레임사 디스
이 비슷한 말을 사이코패스의 등장인물 센구지 토요히사도 말했었죠.
"과학의 역사는 인간 신체 기능 확장, 즉 인간 기계화의 역사라고 바꿔 말해도 틀리지 않습니다."
"(전신의 5할이 넘는 사이보그화에 대해) 거부감이 있다고 하는 사람의 기분은 이해합니다.
결국 정도의 문제지요. 예를 들자면, 당신도 어엿한 사이보그입니다. 휴대 정보 단말을 갖고 계시겠지요.
코스 디바이스도. 그리고, 집에는 홈 오토메이션과 AI 비서.
그 데이터를 재해나 사고로 한 번에 잃게 된다면 당신은 어떻게 되겠습니까?
자신의 생활을 거기까지 전자적인 장비에 의지하고 있는데, 사이보그가 아니라 해도 설득력이 없어요.
당신에게 있어서 휴대 단말은 이미 제2의 뇌입니다. 그렇지 않습니까?"
"육체는 영혼의 감옥이라고 플라톤은 말했습니다... 신은 인간을 자신과 닮은 모습으로 만들었다고 합니다.
슬슬 조금 더 인간이 신을 닮아도 되지 않을는지." - 텍스트는 ㄴㅁ위키에서 복붙[...]
레이시아가 하려는 일은 료우가 그토록 걱정한 기계가 인간의 권력을 승계하는 것,
그리하여 기계들이 인간들을 관리하는 미래를 만드는 것이 맞습니다.
이에 대해 아스트라이아는 인간 사회의 반발을 사서 결국 실패할 것이란 예상을 내놓고요.
아스트라이아와 레이시아의 대담은 현재와 미래의 충돌이라 봐도 무방한 상징성을 지닙니다.
인공지능의 출현과 기술적 특이점이 현실화 될 경우 우리는 인간보다 뛰어난 그것들을 결국
어찌 대해야 할 것인가?
아라토처럼 인간의 한계를 인정하고 기계의 지배를 인간에게 주어진 또하나의 기회로 받아들일 것인가?
아니면 인간의 긍지를 걸고 료우처럼 거부할 것인가.
이 작품은 이런 충돌에 대해
"누가 지배하느냐의 문제가 아닌 부와 권력이 불평등하게 분배된 기존 시스템의 한계로 인해 갈등이 불거진다."
- 라는 논지를 레이시아를 통해 말합니다.
솔직히 좀 정답이라기 보담 물타기 아닌가 하는 생각도 들지만 딱히 틀린 생각도 아니죠....
동시에 아스트라이아를 통해 인간의 긍지를 지켜줘야 한단 말도 곁들입니다.
이 두 의견은 결국 작중에서 제 3의 절충안 같은 것은 나오지 않고 끝까지 독자들이 생각할 몫으로 남겨집니다.
정말 해답이 없는 철학적 사유를 하게 된다는 점에서 아주 만족스런 SF 작품이라 생각됩니다.
엌 ㅋㅋㅋㅋ 결국 작가도 인간이라 뭔지 모르겠지만 미래의 대한 디자인은 기계가 다했다니 ㅋㅋㅋㅋㅋㅋㅋ 작가 사실 알파고의 프로파간다 쓴거 아닙니까 ㅋㅋㅋㅋㅋ
사실 이 작품처럼 기계들이 "지능"만 가지고 "감정"을 가지고 있지 않다면 아주 나쁜 선택은 아닐거에요. (인간을 초월한 지능을 제한없이 사용함으로써 얻는 이익이 막대할테니. 많은 기계의 반란은 기계가 사람처럼 행동한다는 전제를 깔고있으니) 그런데 문제는 기계의 "효율"이 인간의 도덕, 감정, 윤리에 대치될 가능성이 너무 높다고 생각해요. 뭐 여기서도 결국 결정을 내리는건 사람이라고 막을 하나 쳐두긴 했는데... 역사에서 강력한 힘을 가진 사람들이 좋은일도 많이 했지만 사고도 많이 친거보면.... 아무리 생각해도 회의적이라는 생각이 많이 들어요... 궁금한게 하나 있는데 이 작품의 결말에서 기계들을 좀 더 적극적으로 활용하게 되나요? 파급력같은 묘사도 나오나요?
작품이 치사하게 거기까진 안알랴줍니다;;;; 미래에 대한 디자인은 레이시아가 전자전으로 인간은 뭔지 알 수 없게 다 끝냈다고 해버리고, 그 파급력이 현실에 드러나기 전에 아라토와 레이시아의 개인적 근황을 파날레로 끝맺죠.
이게 차라리 현실적으로 안전하죠. 근데 양자 컴 개발을 보면 결국 돈이 문제로 보입니다. 진짜 인공지능이 나타나 거하게 사고치기 전엔 무법지대겠죠.
사람이란 생물은 누군가가 자신을 통제하려고 할때 들고일어서는 특성이 있습니다. 그 어떤 이유에서도 ai 가 사회를 지배하려고 들면 그야말로 터미네이터의 재림이 일어날듯..
주인공의 생각은 어떻게 보면 한명의 인간으로써 생각을 포기하고 자신의 미래를 기계한테 맡기는거나 다름이 없는..
생각해보니까 시발라 시스템하고 별로 다를게 없네요 ㅋㅋ
시빌라는 인간들 두뇌로 이뤄진 일본 정치 패러디란 점에서 이 작품과는 비교가 어렵습니다. 그리고 이게 원작을 보면 기존 인간 VS기계의 SF 클리셰가 아닌 아이작 아시모프의 최후의 질문 오마주 성격이 강해서 컴퓨터의 사회 통제를 이미 미래 모델로 긍정하는 주제를 가지고 있죠. 결말에 가면 결국 기계와 인간은 서로 믿는 것이 가능하단 결론으로 갑니다.
표면적으로 봤을때에는 비슷하죠. 작품 내적으로 들어가면 시빌라는 사실 결국에는 인간에의한 통치였다는걸로 밝혀지지만
작가가 시빌라 같단 생각이 들지 않도록 적절한 플롯을 만들어 내니 걱정 않으셔도 됩니다. 문제는 완결은 9월달에 한다는 거;;;;
강제로 시행했을때의 근현대의 대표적인 사례가 월남전 사례 아닐까 싶습니다. 제 아무리 민주주의가 잘나고 그걸 밀어주는 힘이 강력해도 결국 사회의 동의를 얻어내지 못하면 실패는 정해진 수순이죠.
힘으로 인간을 조종하는 게 아니라 돈으로 조종하는 것은 가능하단 것이 16화에서.....ㅋㅋㅋ
ㅋㅋ
몇번이고 읽어보면서 고찰해보고 있지만 역시 너무 어려운 문제입니다 이건. 애초에 답이 없는 문제기도 하지만.
정말 해답이 없는 철학적 사유를 하게 된다는 점에서 아주 만족스런 SF 작품이라 생각됩니다.
그리고 개인적으로 이런 창조주와 피조물의 딜레마를 보면서 항상 느끼는게 있는데, 신은 인간을 자신과 닮은 모습으로 만들었을 리 없어요. 신이 이딴 답없는 딜레마가 발생할 여지를 조금이나마라도 생기게 냅뒀을 리가 없거든요.
메리 셸리는 프랑켄슈타인을 통해 인간의 한계성을 지적했고 비트레스는 인공지능의 우월함으로 인간의 미력함을 꼬집는군요.... ....Aㅏ 아.....ㅠㅠ
기계는 효율적으로 고치고 갈아버릴 수 있지만 인간은 효율으로만 다룰 수 없는 문제라 기계가 결국 생체를 뛰어넘을 수 밖에 없죠. 사실 관리자-실무자의 관계처럼 인간이 기계와 동급의 능력을 가져 기계를 완벽히 이해하고 통제하는 것이 베스트지만, 이건 상술한 이유때문에 불가능하고요. 이 작품에서는 아예 기계(어디까지나 사람의 감각이 없는, 단순 지능만 뛰어난)를 인간이 활용함으로써 기계조차 사람의 능력 중 하나이니 상관없다... 고 저는 해석했는데... 개인적으로는 동의하지 않습니다. 저는 결정은 사람이 내린다고 해도 저런 고등 지능의 인공지능까지 등장한다면 개인의 힘이 지나치게 커질거라고 보거든요. 어려운 문제죠. 개인적으로는 생명공학이 발전해서 사람 자체의 능력이 증폭되서 저런 지능을 통제할 정도이면 모를까, 아직은 시기상조로 보이네요. 사실 주인공들이 인공지능을 이용해서 해악을 끼치려한다면 그 피해가 막심할걸로 보여서....
그 삽질의 하나로 작게[?]는 와타라이의 레이시아 외부 방출, 크게는 아리아케의 해저드가 있었죠. 그때문에 19화에서 인간이 초고도 A.I를 운영하는 게 아니라 초고도들이 인간을 운영해야 한다는 이야기가 나옵니다. 이렇게 적극적으로 기계의 지배를 환영하는 작품도 드물겁니다.
마우스쥔고양이
사실 이 작품처럼 기계들이 "지능"만 가지고 "감정"을 가지고 있지 않다면 아주 나쁜 선택은 아닐거에요. (인간을 초월한 지능을 제한없이 사용함으로써 얻는 이익이 막대할테니. 많은 기계의 반란은 기계가 사람처럼 행동한다는 전제를 깔고있으니) 그런데 문제는 기계의 "효율"이 인간의 도덕, 감정, 윤리에 대치될 가능성이 너무 높다고 생각해요. 뭐 여기서도 결국 결정을 내리는건 사람이라고 막을 하나 쳐두긴 했는데... 역사에서 강력한 힘을 가진 사람들이 좋은일도 많이 했지만 사고도 많이 친거보면.... 아무리 생각해도 회의적이라는 생각이 많이 들어요... 궁금한게 하나 있는데 이 작품의 결말에서 기계들을 좀 더 적극적으로 활용하게 되나요? 파급력같은 묘사도 나오나요?
작품이 치사하게 거기까진 안알랴줍니다;;;; 미래에 대한 디자인은 레이시아가 전자전으로 인간은 뭔지 알 수 없게 다 끝냈다고 해버리고, 그 파급력이 현실에 드러나기 전에 아라토와 레이시아의 개인적 근황을 파날레로 끝맺죠.
마우스쥔고양이
엌 ㅋㅋㅋㅋ 결국 작가도 인간이라 뭔지 모르겠지만 미래의 대한 디자인은 기계가 다했다니 ㅋㅋㅋㅋㅋㅋㅋ 작가 사실 알파고의 프로파간다 쓴거 아닙니까 ㅋㅋㅋㅋㅋ
이게 바로 작중에서 말하는 인간의 한계인가 뭔가 하는 거군요ㅋㅋ
그렇게 인간의 도덕이나 감정, 윤리같은 애매한 것들을 아라토와의 관계로 사고에 포함시키는게 초고도 AI 레이시아일 겁니다. 일단 작품은 그런 것들도 시스템으로 극복 가능하다고 얘기하는거 겠지요. 뭐 제가 생각히기로도 무리일것 같지는 않아 보입니다.
개인적으로 차라리 지금 당장 전세계가 국제법으로라도 생체를 능가하는 기계가 못 나오게 규제법으로라도 제한 금지해서 연구,개발 자체를 못하게 하는 게 낫습니다!!!!오죽하면 유발 하라리 교수도 규제가 필요하다고 했고 또한 빌 조이,빌 게이츠,스티븐 호킹도 이런 무절제한 개발,발전은 당장 멈춰야 한다고 경고를 했겠으며 교황도 '인간의 일자리를 영혼없는 기계로 대체되선 안된다'고 경고했냐구요??!!
이게 차라리 현실적으로 안전하죠. 근데 양자 컴 개발을 보면 결국 돈이 문제로 보입니다. 진짜 인공지능이 나타나 거하게 사고치기 전엔 무법지대겠죠.
그럼 양자컴조차도 규제해야 하는거 아닌가 당장 전세계가 논의해야 하는거 아닌가요??!!지금은 전세계가 이런 기술 연구 개발을 당장 멈추고 이것저것 살펴보면서 여러 문제점들에 대해 궁리해야지,이런 무절제한 개발,발전을 폭주시켜서는 안된다고 세계 모든 사람들에게 알려야 한다고 생각합니다!!!
교황도 나서서 경고할 정도인데다 독일 같은데선 4차 산업혁명에 대해 실질적 논의가 이루어지는 중이라니 뭔가 나오긴 하겠죠.
그 정도 가지곤 안됩니다!!!미국샌프란시스코랑 라스베가스에서 로봇 금지하라는 시위까지 벌어진 정도면 이건 그야말로 전세계적으로 큰 문제예요!!!따라서 전세계가 국제적 회의를 당장 열어서 개발과 연구와 도입을 규제,제한 금지를 국제법으로 제정케하는 여부에 대한 논의를 시급히 열어야 한다고 봅니다!!!!이제는 발전을 멈추더라도 여러가지를 끊임없이 살펴보고 주의 깊게 미래를 생각할때지 이런 개발의 폭주를 그대로 둬선 안됩니다!!!!!
확실히 이젠 무한 발전 경쟁주의는 한계에 다다른 느낌이죠. 강인공지능이 출현하지 않는다 해도 실업자 양산은 가속화되고 있으니...
실제로 어떻게 될지는 모르겠지만, 전 레이시아가 제시한 미래도 좋다고 봅니다. 오히려 사람보다 훨씬 똑똑한데다가 사리사욕같은 불순물도 없는 AI에게 권력을 위탁하는 것이 훨씬 더 공정하고 나은 세상을 만들 수 있지 않을까요. 인간이 만물의 영장이란 가치관은 저 시대에는 슬슬 놔줘도 괜찮겠지요. 스스로의 힘으로는 진보의 한계를 맞았다면, 도구에게 도움받으면 되는겁니다!
아이작 아시모프의 최후의 질문처럼 컴퓨터에 의해 인간이 신의 영역에 들어선다면 뭐 거부할 것도 없죠.
우주소년 아톰 2003과 록맨 X 시리즈가 생각나는군요.
전 그냥 생활에 필요한 모든 인프라를 기계가 제공하고 인간은 그 '기계가 만들어준 생존을 위한 인프라'를 기반으로 자유로이 하고싶은 것 들을 할 수 있도록 되는 사회가 좋다 생각하네요