안드로이드는 인간보다 가치 있을까?
안드로이드와 인간은 같지 않을까?
안드로이드가 인간보다 더 많은 자유 의지가 있으면 그게 더 인간스러운게 아닐까?
니세모노가타리에서 나온 대사임
요즘 SF 장르에서 인간 다운 삶을 못 사는 인간은
인간 다운 삶을 사는 기계보다 인간 다운가라는 이야기가 많이 나온다
안드로이드는 인간보다 가치 있을까?
안드로이드와 인간은 같지 않을까?
안드로이드가 인간보다 더 많은 자유 의지가 있으면 그게 더 인간스러운게 아닐까?
니세모노가타리에서 나온 대사임
인간 다운 삶을 사는 기계보다 인간 다운가라는 이야기가 많이 나온다
안드로이드가 진짜 제대로된 인공지능을 가졌으면 기계도 저장 매체가 파괴되면 자신도 죽는거라서 사람이랑 다를바 없음 자기와 같은 기억을 가진 복제체를 인간보다 쉽게 만들수 있을뿐인거고
그러니까 창작물 이야기하는데 ‘왜?‘를 설명 못하고, 작품의 지향점도 제시할 수 없는 이야기를 끌고 오는 게 넌센스라는 거임 본문부터가 창작물 이야기잖음 애시당초 AI, 안드로이드가 왜 인간의 모방품이냐? 하는데 시뮬라크르, 시뮬라시옹, 실존주의 담론을 담고 싶어서 도구로써 그걸 차용한 거니까 그렇지 거기다가 진짜 과학이 어떻니 현실이 어떻니에 대한 이야기는 공허함
여기는 대댓이고, 원댓이 제시한 이야기는 '굳이 인간을 지향할 필요가 있을까?'였지, '공허함'에 대한 전제든, 담론이든 어디에도 없었음... 난입한 너도 '특이점'이라는 이야기만 했지 '공허함'이라는 이야기는 없었고 내가 묻는 건 네가 말하는 특이점이 왔다고 하는 존재를 어떻게 묘사해서 그를 통해 어떤 이야기를 하고 싶은지에 대한 거임
니가 기억을 너무 단편적으로 생각하는거 아님? 그 비디오가 수십 수백 수천개 쌓이는건데? 니 인생은 비디오 한번 찍는게 다일 정도로 가벼움?
그건 남들이 기억하는 너지 니가 아냐 자아의 연속성을 이해는 하고있슴?
그러니까 감정이입능력, 자아, 삶의 목적 같은 것들을 인간성이라 칭하고 그걸 지향하는 모방체의 이야기를 창작물에서 주로 다루는데 저러한 가치에 구애받지 않고 초월한 존재를 그리고 싶으면 그럼 뭘 지향하고, 어떤 점에서 초월했으며 그게 왜 초월인건지의 규정이 선행되어야 한다는 거 대충 특이점으로 퉁칠 게 아니라, SF에서 철학을 다루는 방식이라면 일단 ‘왜?‘가 계속 들어가서
사람의 기억을 너무 가볍게 생각하는데 사람이 특정행동을 하는 판단소재부터가 경험에서 비롯된거임 왜 그런 결과를 생각하게 되는지 압축해서 까먹은게 대부분이고 자아는 결국 인생동안 차곡차곡 쌓인 경험임 그 경험을 특정한 유전자를 가진 몸을 이용해서 했으니 몸의 영향을 받은거고 결국 그 몸에 영향을 받은 기억이 내 자아임
응? 니세모노가타리에 안드로이드 어쩌구가 있었나?
안드로이드가 진짜 제대로된 인공지능을 가졌으면 기계도 저장 매체가 파괴되면 자신도 죽는거라서 사람이랑 다를바 없음 자기와 같은 기억을 가진 복제체를 인간보다 쉽게 만들수 있을뿐인거고
종종하는 착각이 기계는 수리할수 있으니까 영생에 가까우니 사람과는 완전히 다르다고 생각할건데 기계도 그 부품이 손상되거나 낡으면 그 부분의 데이터를 살리는거지 그 고장난건 완저한 수리가 안됨
저장매체가 다르고 따라서 DNA랑 전혀 상관없다는 점에서 큰차이가 있지. 극단적으로 말해 생명체를 DNA의 운반자라고 말하는 생물학자도 있는걸 생각하면, 안드로이드는 절대 생명체는 될수없음
주제는 사람이냐 아니냐 아님? 사람은 생물이니까 사람임? 결국 나를 완성하고 내 자아라고 할수 있는건 내 기억인데?
사람의 기억을 기계에 복제를 한다면 그건 생물이 아니니까 사람이 아님?
ㅇㅇ 실제로 그렇지. 반대로 생각해봐. 네 기억을 가지고 있지만, 네 부모님에 아무런 감정을 못느끼고, 스스럼 없이 그 사람들을 죽일수있다면, 반대로 네 기억을 가지고 있다고 너라고 할수있을까? 네가 아니라면, 당연히 생명체가 아닌게 당연하지 않을까?
내 기억을 가졌다면 내 부모님에 아무런 감정을 안느낄수가 없지않음? 가족에 대한 애정이란거도 기억에서 비롯되는건데? 자아의 연속성이 이어지지 않으니 나라고 할수는 없지만 복제된 나는 나랑 같은 행동을 안할수는 없을건데? 생명체가 아닌거지 사람이 아닌건 아니지
네 자아라고 하는건 단순히 네 기억이 아니라 네 기억이라고 부르는 뇌라는 생체조직이지. 그 호르몬과 DNA의 영향으로 인해 조절되는 감정까지 포함하지 않고사 어떻게 자아가 있다고 하지?
당연히 못느끼지 DNA도 없고 호르몬도 없는데 어떻게 느끼는데? 마치 네 기억이 있으니 당연히 그럴거라 생각하는데 그런 본능적인 부분은 육체에 의해 제어되는거지 네 기억에 의해 제어되는게 아님. 단순히 말해서 사람이 똥냄새를 싫어하는 본능은 육체적인 것에서 나오는것이지 기억에서 나오는게 아님
루리웹-1411075587
사람의 기억을 너무 가볍게 생각하는데 사람이 특정행동을 하는 판단소재부터가 경험에서 비롯된거임 왜 그런 결과를 생각하게 되는지 압축해서 까먹은게 대부분이고 자아는 결국 인생동안 차곡차곡 쌓인 경험임 그 경험을 특정한 유전자를 가진 몸을 이용해서 했으니 몸의 영향을 받은거고 결국 그 몸에 영향을 받은 기억이 내 자아임
몸은 저장매체가 포함된 입력기에 더 가깝지 만약 지금 너의 기억을 몸에서 전부 날렸을때 그건 니가 아니잖어?
오히려 네가 기억만 세게 느끼는거지. 반대로 그럼 네 하루를 비디오로 찍었음. 그건 네 기억이겠지. 그럼 그 비디오는 너처럼행동하나? 아니잖아? 기억은 말그대로 데이터일뿐임. 네가 생각하는 자아의 전부가 아님
루리웹-1411075587
니가 기억을 너무 단편적으로 생각하는거 아님? 그 비디오가 수십 수백 수천개 쌓이는건데? 니 인생은 비디오 한번 찍는게 다일 정도로 가벼움?
반대지. 기억이 없어도 내 지문도 신분증도 가지고 있으면 사람들이 나로 대할거야. 그들의 기억속에서 나의 존재로 받아들일테고. 그런데 그게 어째서 내가 아니겠어? 오히려 네가 기억상실증 환자의 정체성을 박살내는 말을 하는거지
루리웹-1411075587
그건 남들이 기억하는 너지 니가 아냐 자아의 연속성을 이해는 하고있슴?
네가 말하는 무겁다는게 비디오 수십수백수천개에 불과하다는게 오히려 네 가벼움인거. 마.약 한방만에 사람은 자신이 절대 하지 않을 결정도 하게 만들수있음. 그게 기억이 바뀌지도 않았지만 그런 선택이 가능할만큼, 기억이란 요소는 약함.
니가 사라지고 복제한 너는 너랑 같은 기억을 가진 다른 사람이지 니가 아냐 하지만 다른 사람들은 그걸 너라고 생각은 하겠지 같은 기억을 가졌고 다른 사람이 너라고 생각하면 그건 전부 너임?
반대로 자아의 연속성만에 '나'를 구성하는게 아니잖아? 네가 물어본건 자아가 아니라 '나'인가를 물었으니까
ㅁㅇ은 기억이 바뀐게 아니라 기억에 추가가 되는거야 기억을 대체 뭐라고 생각하는지 의문이네
내 주장은 기억이 나니 자아의 연속성도 기억이 이어진 나임 기억의 단절이 생긴 내가 아님
오히려 네가 기억만능주의를 말하는거지.
기억 만능주의는 또 뭐임??????
없는말을 만들어내야 될 정도임?
니가 말하는게 그거잖아 '자아는 기억으로만 이루어져있다'라는 기억으로 전부 해쳐먹는다고 말하니까. 그게 아니란 이유를 말해줘도 이유 있는 반박이 아니라 '그건 아니다' 라고 말할뿐이니까 기계에 네 기억을 넣어도 뇌와 호르몬이 없으면, 그런 감정이 없기 때문에 네 부모도 쉽게 죽인다 라는 예시를 보여줘도 '아니다 내 기억이 있어서 안죽인다' 라는 말만 하잖아?
요즘들어 드는 생각은 안드로이드가 왜 진짜 인간처럼 되려고 하냐? 임 미개한 진짜 인간이 되려하기보단 개쩌는 초인공지능이 되길 바라지 않을까?
그 개쩌는 초인공지능이 뭐냐부터 정의해야 해서
그게 정답이긴하지. 인간의 DNA와 호르몬에 의해 제어되는 감정을 인공지능이 이유도 없이 따라할거라 생각하는 인간의 오만이지
애초에 그 개쩌는 초인공지능을 인간이 이해할수 없는 지점을 간지나게 '특이점' 이라고 부르는거잖아
루리웹-1411075587
그러니까 감정이입능력, 자아, 삶의 목적 같은 것들을 인간성이라 칭하고 그걸 지향하는 모방체의 이야기를 창작물에서 주로 다루는데 저러한 가치에 구애받지 않고 초월한 존재를 그리고 싶으면 그럼 뭘 지향하고, 어떤 점에서 초월했으며 그게 왜 초월인건지의 규정이 선행되어야 한다는 거 대충 특이점으로 퉁칠 게 아니라, SF에서 철학을 다루는 방식이라면 일단 ‘왜?‘가 계속 들어가서
특이점은 SF가 아니라 인공지능의 발달로 인해 인간의 이해가 닿지 않는 부분을 말하는거니까. 반대로 그 인간의 '왜'에 닿지 못하는 부분이 특이점임
루리웹-1411075587
그러니까 창작물 이야기하는데 ‘왜?‘를 설명 못하고, 작품의 지향점도 제시할 수 없는 이야기를 끌고 오는 게 넌센스라는 거임 본문부터가 창작물 이야기잖음 애시당초 AI, 안드로이드가 왜 인간의 모방품이냐? 하는데 시뮬라크르, 시뮬라시옹, 실존주의 담론을 담고 싶어서 도구로써 그걸 차용한 거니까 그렇지 거기다가 진짜 과학이 어떻니 현실이 어떻니에 대한 이야기는 공허함
그 공허함을 바탕으로 이야기하는거잖아 창작물에서 로봇삼원칙을 아무리 말해봐야 '현실로봇과 AI엔 그런거 없다'라고 해서 요즘엔 그런거 없다류의 SF로봇이 많아지는 것처럼
루리웹-1411075587
여기는 대댓이고, 원댓이 제시한 이야기는 '굳이 인간을 지향할 필요가 있을까?'였지, '공허함'에 대한 전제든, 담론이든 어디에도 없었음... 난입한 너도 '특이점'이라는 이야기만 했지 '공허함'이라는 이야기는 없었고 내가 묻는 건 네가 말하는 특이점이 왔다고 하는 존재를 어떻게 묘사해서 그를 통해 어떤 이야기를 하고 싶은지에 대한 거임
이미 데우스엑스마키나로 많이 사용하는 요소잖아?
네 말에 따르면 '특이점'은 인간이 닿지 못하는 경지인데 그걸 창작물에 담아서 표현하는 건 창작의 주체인 인간이니까 결국 그 사람이 상상할 수 있는 수준의 존재가 되니까 성립이 불가능한 거 아님? 이런 측면에서 원댓이 말한 '개쩌는 초인공지능'이나 네가 말하는 '특이점' 같은 게 창작물에선 사용될 수 없는 딜레마가 있다고 생각함
성립가능함. 오히려 SF에서 판타지적인 요소를 쓰는 데우스엑스 마키나로서 많이 쓰잖아? 유명한 아이작 아시모프 소설에서도 인간보다 뛰어난 인공지능이 제작한 인공지능보다 더 뛰어난 인공지능이, 그 뛰어난 인공지능보다 더뛰어난 인공지능이 만들어내 인간이 설명못하는 장치 같은거 많이 나온 소재잖아?
맥거핀이면 모를까 데우스엑스 마키나로 '묘사'가 되고 설정이 쓰여지는 순간 인간이 설명할 수 있는 무언가가 돼 버리니까 그건 '설명할 수 없는 특이점'이 아니게 되는 거 아닐까 싶은데 확실한 묘사를 피하고 맥거핀으로 다루면서 노인을 위한 나라는 없다, 곡성처럼 허무주의적인 담론이 나오는 게 그나마 내가 상상할 수 있는 범위인듯
반대로 데우스엑스 마키나로 묘사되고 설정이 쓰이니까 '인간이 설명할수 없는 무언가'가 되는거지. '이런 장치가 있다' '원리가 뭔데?' '인간은이해못해' '아니 난 할수있어. AI. 원리를 설명해줘' 'AI는 기계어로 이루어진 수억개의 문자열을 나열한다.' 이런식으로만해도 충분히 묘사 되는거잖아?
데우스엑스 마키나에 대한 용어를 너랑 나랑 다르게 이용하고 있어서 생기는 문제 같음 나는 데우스엑스 마키나는 '묘사를 희미하게 한다' 따위는 별로 중요하지 않고, '편의적으로 사건을 해결할 수 있는 장치나 설정'으로 생각하고 너는 그걸 '묘사를 희미하게 한다'로 사용하고 있는 거 같음 나는 그 의미를 맥거핀에 가깝게 생각함, 직접 모습을 드러내지 않고 무엇인지도 사실 별 중요하지도 않은 걸로 그런 의미라면 일부 동의함 다만 '문자열을 나열한다' 진짜 이런식으로 묘사하면 지금 와서는 좋은 평가는 못 받겠지만
뭔가 위에서 엄청난 토론이 벌어지고 있는데 댓글 달기가 겁난다
난 인간의 자아를 구성하는건 몸(운동 기관), 지각 능력(감각기관), 기억, 가치관(감정), 자기인지(메타인지)가 복합된 개념이라고 생각함. 그런데 만약 로봇이 자아를 가진다고 하면 굉장히 제약이 심하던 자아가 손쉽게 확장/변환(기억을 복사한다던가, 센서나 구동기를 추가/제거한다던가) 될 수 있어서 인간의 자아와는 다르게 매우 넓은 개념을 포괄하게 될것이라고 생각함. 그럼 로봇의 자아는 새로운 단어를 쓰게 되겠지? 지능을 기계로 구현한걸 인공지능이라고 부르듯 인공자아처럼 새로운 용어가 필요할 듯
그리고 인간의 지능과 인공 지능이 체스나 연산 속도처럼 단편적인 비교는 가능하지만 모든 면에서의 완벽한 비교가 어렵듯이 인간의 자아와 기계의 자아 또한 단편적인 비교는 가능해도 종합적인 비교는 어려울 거라고 생각함. 물론 특정 "목적"에 맞게 기계의 자아를 "조정"할 수 있다면 훨씬 더 "인간스러운" 자아는 만들 수 있겠지. 하지만 거기에 자유 의지가 있는지는 또 다른 문제인 것 같아.
존재론으로 보면 엉망인 명제긴 함 소설의 문장으로는 뭐 적당히 감명있겠지만..
모든 하드웨어적 소프트웨어적인 요소를 같게 한 뒤에도 두 개체간의 차이점이 나타난다면 정말 고유한 자아를 보유한다고 봐야 하지 않을까