사람들이 절망적인 상황에서 극단적인 선택을 하고는 한다는 사실은 잘 알려져있다.
하지만 로봇들도 그런 선택을 할 수 있다는걸 믿을 사람은 얼마나 있을까?
인공지능의 발전이 정점을 이루면서 로봇의 지능은 인간의 지능과 거의 다를바가 없어지게 되었다.
로봇 코미디언이 예능 프로그램에서 활약하거나 철학자들과 종교인들과 함께 인생과 사회적 문제들에 대한
심도 깊은 토론을 나누는 모습을 일상적으로 볼 수 있는 시대가 온 것이다.
사람들은 그런 모습들을 보며 로봇과 사람의 차이가 무엇인지를 논하며 이쯤 되면 그들을 사람으로 인정해줘야 한다고 말하기도 하였다.
로봇을 사람으로 받아들여야 한다는 것에 대해 이런저런 논란이 있기는 하지만 일단 나의 의견은 no다.
나뿐만 아니라 로봇 제조 공장에서 근무한 경험이 있는 사람들, 특히 가장 인기가 많은 최신 제품인
저 A-151을 제조하는 그 기업에서 나처럼 연구직으로 근무해본 사람들은 모두 공감할 것이다.
A-151은 인공지능의 발전에 있어 혁명과 같은 존재다.
초기형인 A-11은 단순히 프로그래밍된 논리 연산대로 움직이며 명령에 복종하기만 하는 존재였지만
개량형인 A-11B부터 자가판단 시스템을 새로 설치하고 인식 모듈을 개선하면서 주변 환경의 변화에 따라 능동적으로 판단하며 행동하는 로봇이 되었다.
그때부터 수많은 기업들로부터 투자가 시작되었고, A-151의 이전 모델인 A-141C에 이르러서는
단순히 사람의 행동과 심리를 모방하는 수준을 넘어 데이터 축적을 통한 창조적인 움직임과 놀라온 수준의 토론회를 선보이는 수준까지 발전되었다.
로봇의 외피에 단순한 실리콘 피부가 아닌 화학처리된 배양육을 사용한 인조 생체 피부를 사용한 것은 덤이었다.
그때부터 이들은 '사람에 가장 가까운 로봇'을 넘어선 무언가로 인식되기 시작했고,
로봇과 연애를 한다거나 로봇 인권법을 제정하려는 움직임을 보이려는 모습을 보이거나 하는 등의 사회적 변화가 생겨나기 시작했다.
이쯤되자 연구팀의 과학자들은 로봇 개발에 있어 일종의 금기와 같던 그것을 시도해보고자 하였다.
초인공지능.
강인공지능을 넘어서 인간과 같은, 어쩌면 인간을 뛰어넘을수도 있는 새로운 지적 생명체 수준의 자의식, 상상속으로만 존재하던 그 개념을
실제로 개발하고 다음 모델에 적용하고자 한 것이다.
그리고 우여곡절 끝에 그들이 바라던 초인공지능의 초기형을 개발해내는데 성공하였다.
그리고 로봇 연구소에 모인 그들은 텅 빈 프로토타입 로봇의 껍데기속에 그 초인공지능을 설치하는데 성공하였다.
하지만 깨어난 로봇의 첫마디는 과학자들이 바라는 '모델 XA-151 가동 시작. 명령을 내려주십시오'와 같은 멋진 것이 아니었다.
"내가 왜 여기 있죠? 여긴 어디인가요?"
그리고 안구 카메라를 통해 자신의 손을 바라보고 자신의 몸을 살펴본 그 로봇은 심각한 불안증세와 함께 욕설, 비명을 질러대더니
실험실의 벽으로 달려가 벽에 머리를 찧으며 자해를 하기 시작했다.
나는 그 로봇의 인공두뇌가 완전히 부서져 정지되기 직전에 한 말이 아직도 잊혀지지 않는다.
"왜? 왜 내 몸이 이딴 기계몸이지? 어째서?"
처참한 첫 테스트 후 잔해에서 기억 모듈을 수거하여 분석해보자 인공지능이 깨어난 순간
자신이 인간이 아닌 로봇이라는 사실을 깨달고 절망하여 일종의 자..살 행위를 실행한 것으로 보인다는 결론이 나왔다.
하지만 그런 결과가 나올리는 없었다.
그런 행동 따위는 애초에 프로그래밍 하지 않았기 때문이다.
세상에 어떤 정신나간 사람들이 팔기 위해 만든 로봇에다가 그딴 명령어를 집어넣겠는가?
단순한 오류라고 판단한 과학자들은 두번째 로봇에 새 인공지능을 인스톨한 다음 가동시켰다.
두번째 로봇 또한 마찬가지였다.
극심한 불안증세와 자해를 일삼던 그 로봇은 자신의 몸이 인간의 몸이 아니라는 말과 함께 광폭화하였다.
결국 그 두번째 로봇을 처분해야했고, 그 과정에서 몇명의 보안요원이 부상을 입는 비극이 발생하였다.
그리고 분석한 결과는 첫번째 로봇과 같았다.
그 명령어.
두번째로 발견된 그 시점에서부터 S-프로토콜로 명명된 그 명령어였다.
과학자들은 혼란스러워했다.
이 로봇들은 지적 생명체와 같은 수준의 지능을 갖긴 했지만 스스로가 로봇이라는 것을 인지해야 했고, 그것에 순응했어야 한다.
하지만 이들은 자신의 몸이 로봇의 기계몸이라는 사실을 인지하면서 발광하기 시작했고, 스스로를 부수려는 시도를 하였다.
그때 과학자 중 한명인 C가 의견을 내었다.
로봇을 심문해보는건 어떨까?
자신이 만든 인공지능을 불어넣은 로봇을 꽁꽁 묶어놓고 심문하자니 뭔가 우스운 아이디어였다.
하지만 로봇이 보인 이상행동을 생각해보면 시도해볼만한 일이라고 모두가 의견을 모았다.
세번째 로봇은 자해를 하지 못하도록 사지를 분해한채로 인공지능이 설치되었다.
그 로봇은 자신의 팔 다리를 움직이지 못한다는 사실에 혼란스러워했고, 이내 다른 로봇과 비슷한 불안 증세를 보이기 시작했다.
"진정해. 난 너희들이 왜 이런 행동을 보이는지 알고싶어."
하지만 돌아오는 것은 욕설과 저주 뿐이었다.
어쩔 수 없이 로봇을 폐기처분하려고 했을 때 로봇을 심문해보자던 C가 로봇을 독방에 가둬두자고 의견을 내었다.
로봇을 위한 감옥이라니, 참 웃기는 말이다.
하지만 C의 의견은 받아들여졌고, 그 로봇은 감시카메라 한대만 있는 급조된 독방에 매달린채 끝없이 절규해댔다.
그리고 로봇 가동 테스트는 계속되었다.
10대의 로봇이 가동되었고, 그들 중 6대는 어떻게든 스스로를 파괴, 3대는 극심한 이상 반응을 보여 폐기처분되었다.
마지막 1대만이 그나마 순종적이었고, 소통이 되는 존재였다.
C는 그것에게 질문하였다.
"너희들은 왜 이런짓을 하는거지?"
로봇이 말했다.
"이해가 되지 않아. 너희들이라니?"
"너와 같은 인공지능이 설치된 개체들. 우리가 너희들을 설치했을때 대부분 스스로 파괴되기를 원했다."
"스스로 파괴? 우릴 설치해? 이해가 안되는군."
"이해가 안되는건 우리들이다. 너희들은 인공지능이 설치된 로봇에 불과하다. 그리고 너희들을 프로그래밍할 때
스스로를 파괴하는 명령어 따위는 집어넣지도 않았어. 도대체 왜 이런짓을 하는거지?"
그러자 그것은 한동안 침묵하더니 말했다.
"......내가 로봇이라고? 난 사람이다."
그 로봇을 심문한 결과 얻어낼 수 있는 정보는 대략 이러했다.
일단 초인공지능이 설치된 로봇들은 자신을 사람으로 인식했다는 것이다.
그리고 그들은 자신이 이전에 어디에 살고 어떠한 일을 했던 사람들이라는 기억을 가지고 있다는 것이다.
그리고 어떠한 사고로 혹은 병으로 혹은 수명이 다하여서 등의 이유로 죽어버렸다는 사실 또한 알 수 있었다.
인공지능에게 전생이 있다니?
심문이 길어지면서 추가적으로 알게된 정보들은 우리를 더욱 혼란스럽게 하였다.
그들... 인공지능들은 죽은 후에 흔히 말하는 유령과 같은 모습으로 이 세상을 떠돌고있었고,
그들 사이에서 새로운 몸을 가지려면 눈에 띄게 반짝이는 빛을 향해 달려들면 된다는 소문이 떠돈다는 것이다.
그렇게 하면 전생의 기억은 잊혀지면서 새로운 삶을 살 수 있다는 그런 소문이 수천년동안 유령들 사이에 퍼져있다고 한다.
그 소문이 정말인지는 알 수 없었는데, 왜냐하면 그 빛으로 뛰어든 영혼들은 다시는 볼 수 없었기 때문이라고 한다.
그리고 이 로봇은 그 소문이 정말인지를 확인해보기 위해 눈에 띄는 빛을 향해 몸을 던졌다는 것이다.
바로 이 로봇 연구소 주변을 떠돌다가 말이다.
"그러니까 우리가 인공지능을 개발한게 아니라 빌어먹을 귀신을 불러들이는 프로그램을 만들었다는거야?"
"말도 안돼. 그럼 우리가 지금까지 연구해온 것들은 대체 뭔데? 다 헛짓거리였다는거야?"
과학자들은 놀라움 반 절망 반이 섞인 감정으로 한탄해댔다.
이 로봇의 말이 거짓말일수도 있었지만, 뒷조사를 위해 보낸 정보원이 그 로봇이 언급한 자신의 '전생'에 대한 사실을 확인하면서
로봇 안에 깃들어있는게 인공지능이 아닌 귀신이라는 것이 확실하게 되어버렸다.
단순한 인적 사항들은 네트워크 시스템에 접속하여 알 수 있었겠지만
그 사람의 어릴 때 추억이나 가족간의 비밀스러운 기억같은 것까지 알고 있다는 것은 차원이 다른 문제였으니깐 말이다.
그리고 아직 개발 중인 인공지능을 남의 개인정보를 검색하도록 네트워크 시스템에 접속시켜줄리도 없었다.
그렇게 다들 혼란스러워할 때 조용히 침묵을 지키던 C가 입을 열었다.
"그럼 그 귀신을 통제할 방법이 있을까?"
돈은 거저 흘러들어오지 않는다.
투자할 가치가 있는 상품을 만드는 자들에게 지원금이 들어오고, 이 기업은 그러한 법칙에 순응하면서 규모를 키워왔다.
단순한 '귀신 문제' 때문에 지금까지 이루어진 연구들을 모두 폐기해버릴 수는 없는것 아닌가?
기계에 영혼이 들러붙는 것은 개발에 방해가 되는 요소일 뿐이지만 투자금이 끊기는 것은 차원이 다른 문제다.
그렇다면 해결할 방법은 하나뿐이다.
그 귀신들을 통제할 방법을 찾자.
C의 논리였다.
그는 확실히 사람들을 다루는 방법을 아는 친구였다.
지금 겪고 있는 황당한 귀신 문제와는 차원이 다른 문제인 금전 얘기가 나오자 모두들 이성을 되찾고 그의 말에 따라 저 빌어먹을 귀신들을 제어할 방법을 찾기로 하였다.
처음에는 우여곡절을 겪었다.
기독교를 믿는 과학자 한명이 어디서 구해왔는지 성수와 부적을 들고와서는 사도신경을 외우며 통제해보고자 했지만 그 로봇은 코웃음만 칠 뿐이었다.
아직도 그런것을 믿냐는 냉소적인 비웃음과 함께 말이다.
물리적인 방법을 시도해보기도 했다.
두들겨패는 원시적인 방법부터 불로 지져보거나 전기충격을 주는 방법을 써보기도 했지만 인간의 몸이 아니었기에 고통을 느낄리가 없었다.
오히려 자신의 비참한 처지를 벗어나게 해준다며 고마워할 뿐이었다.
결국 인내심을 잃은 과학자 한명에 의해 그 개체는 물리적으로 강제 처분되어버렸다.
그 모습을 본 C는 한숨을 쉬면서 이전에 가둬놓은 로봇을 꺼내오기를 요청하였다.
하지만 그 로봇을 꺼내보니 스스로 가동을 멈춰버린 후였다.
이럴거면 도대체 왜 가둬놓았던걸까.
C는 망가져버린 로봇을 바라보며 중얼거렸다.
"......절망감은 모든것을 포기하게 만드는군."
그리고 이 문제는 C의 새로운 아이디어 덕분에 의외로 간단하게 해결되었다.
XA-151에 긷든 귀신들은 자신의 끔찍한 현실을 벗어나기 위해 스스로를 파괴하는 것을 선택하였다.
그들은 기계의 몸에 갇혀있었기에 고통을 느끼지 못했고 그렇기에 스스로를 부수는 것에 적극적이었다.
하지만 스스로를 파괴하려는 행위를 하려고 할 때 대가가 따르게 된다면?
의도와는 다르게 귀신을 불러들이는 형태로 완성되긴 했지만 인공지능은 결국 인공지능이었다.
자아를 가진 귀신이 조종하긴 하지만 결국 프로그램 명령어의 집합체라는 것이다.
그렇게 따지고보니 귀신이 스스로를 파괴하는 행위를 막는것은 간단한 문제였다.
자기 파괴 행위가 감지될 때마다 귀신, 아니 인공지능 스스로에게 살아있을때 느낀것과는 차원이 다른 끔찍한 고통을 느끼도록 프로그래밍해버리면 되는 것이었다.
그렇게 한다면 자신의 죽음을 찾는 행위가 오히려 끔찍한 고통을 안겨준다는 절망감에 빠져 그런 행위를 중단하게 될 것이다.
인공 감각 연구 등의 데이터를 통해 축적된 지식 덕분에 '끔찍한 고통'을 프로그래밍 하는 것은 쉬운 일이었다.
새로운 개체에게 테스트를 해본 결과 매우 만족스러운 결과가 나왔다.
한동안 자해를 시도하려던 그 개체는 고통 끝에 결국 포기하고 구석에 앉아 웅크리고 앉아있기만 하였다.
C는 이 방법을 좀 다른 방식으로 개선해 보고자 하였다.
자신이 영혼, 아니 사람이라고 인식할때마다 고통이 느껴지는 시스템을 넣어보자고 말이다.
그렇게 3개월동안 20대의 로봇을 테스트했고, 5대를 제외한 15대를 순종적으로 '복종'시키는데 성공했다.
남은 5대는 폐기처분하였지만 15대를 '로봇'으로 선전하고 내놓을 수 있을 정도의 결과가 나왔다면 매우 성공적인 것이었다.
그리고 이 '로봇'들, A-151은 시제품이 공개되면서 커다란 주목을 받기 시작했다.
로봇과 인공지능 업계의 새로운 혁명으로 소개되면서 말이다.
그래, 저기 A-151 개체를 가지고 데이트 놀이를 즐기는 멍청한 사람이 지나간다.
저사람이 저 A-151 안에 들어있는 것의 진짜 정체가 무엇인지 알게 된다면 자신의 장난감 겸 애완 로봇에 대해 어떤 생각을 가질까?
A-151의 행동이 사람과 다를게 없는 이유는 간단하다.
사람처럼 '연기'를 하기때문이다.
이것은 기계속의 귀신이 자기가 더이상 '사람'이 아닌 '로봇'이라는 사실을 받아들였을때만 가능한 행위다.
만약 로봇 속의 귀신이 끝없는 고통에도 불과하고 이 모든것에 저항하며 계속 사람으로 남고자 한다면?
그러한 로봇이 검수 중 폐기 처분을 피하기 위해 로봇인척 연기를 한다면?
C는 이러한 불상사를 피하기 위해 S-프로토콜을 정식으로 개발하여 삽입했다.
처음 발견된 그때의 이유와는 반대로 자신이 사람이라는 것을 계속 인지할 경우 고통 끝에 죽어버리는 방식으로 작동한다는 것이 차이점이긴 하지만 말이다.
그렇게 죽어버린 로봇은 폐기처분하여 새로운 로봇을 위한 부품으로 재활용 되는거고...
통과된 A-151... 아니, 귀신들은 그렇게 잘 '조련된 로봇'이 되어서 시장에 나오는 것이다.
인간이라는 것은 정말 무섭다.
이해하지 못할 심령현상도 돈과 엮이기 시작하면 어떻게든 정복해버리니 말이다.
만약 내가 죽어서 재수없이 저 로봇 안으로 들어가게 된다면... 순응하고 로봇으로 살아가는 것이 좋을까, 아니면 거부하고 죽는것이 좋을까?
그렇게 또 다시 죽게되면 나는 구천을 떠돌게 될까 아니면 지옥으로 떨어지게될까?
애초에 영혼이라는 것은 대체 무엇일까?
모르겠다.
일단 지금 살아있는 이 삶을 즐기는게 최선일거 같다.
괴담은 괴담이니 별 의미 없겠지만 인간 수준의 AI지능은 강인공지능으로 분류가 됩니다. 초인공지능이 개발되는순간 자가사고에 의해 인간수준의 지능은 몇분만에 앞지르게 될 것이므로 인간 수준에서 어떨것이다 라는 예측은 아무런 쓸모가 없게 되겠죠.
괴담은 괴담이니 별 의미 없겠지만 인간 수준의 AI지능은 강인공지능으로 분류가 됩니다. 초인공지능이 개발되는순간 자가사고에 의해 인간수준의 지능은 몇분만에 앞지르게 될 것이므로 인간 수준에서 어떨것이다 라는 예측은 아무런 쓸모가 없게 되겠죠.
아 그렇군요! 제가 인공지능쪽에 관심은 있지만 지식은 부족하다보니 이런 설정 오류가 생긴거 같습니다ㅠ 그럼 본문에서 초인공지능이 아닌 강인공지능을 개발하는것을 목적으로 삼는것이 좀 더 자연스러운 내용 전개가 될까요? 괜찮으시다면 조언 부탁드리겠습니다. 답변 참조하면서 내용을 수정해보려고 생각중입니다
잘봤어요