[S/W] “AI가 두려운 이유는…” 스티븐 호킹, 생전 ‘마지막 댓글’

[YongMun]

“AI가 두려운 이유는…” 스티븐 호킹, 생전 ‘마지막 댓글’

출처 : http://news.kmib.co.kr/article/view.asp?arcid=0012226812&code=61131611

[RocknSangInLove]

그렇네요... 역시 기레기... 호킹도 기계로 노동력이 대체됐을때 부만 분배잘된다면 모두가 폼나게 살 수 있을거라고 써놨네요.

[RocknSangInLove]

그렇죠... 이미 트렌드가 그의 반대로 가고있으니...

[Inside_the_fire]

하지만 시간 지나면 언제 그랬냐는듯이 또 잊겠죠.
문제는 적폐들을 놔둘거고 계속 다시 어떤 식으로라도 국가권력을 손에 넣고 또 다시 나락으로 빠뜨릴테니
악순환의 연속일거라 봅니다. 그 대를 이번에 끊어야 하는데 그 후로 부와 권력을 가진자들에 대한
강한 법 적용 체계를 재정비 그로인한 사회인식이 되면 좋아지겠다고 생각이 듭니다.
지금과 같으면 뭐 달라질거라고 봅니다.

[PowerKiss]

AI가 능력차이로 인간을 차별한다라....

[익명의 유저]

그래도 그런 위험성에도 불구하고 초인공지능의 출현은 꼭 보고 싶네요.

[익명의 유저]

인간의 뇌를 고차원 수준으로 개조해서 인공지능과 경쟁 할 수 있게 하는 방법도 있지 않을까요? 초인공지능을 만들 수 있을 정도라면 인간 스스로를 개조시킬 수 있는 단계에도 다다를 수도 있다고 봅니다.

[느그웹-5578972410]

부정적으로 보자면 매트릭스나 터미네이터와 같은 현실이 도래할 삘...

[천연기념인]

초인공지능이 생각이란게 있다면 자신이 존재하는 이유를 강력한 인공지능을 활용해나가기 위한 목적을 알것이라고 봅니다.

지구상에 인간이 사라진다면 초지능도 존재할 필요가 없습니다. 인간사에 발생하는 여러 문제들을 뛰어난 현자와 같은 지성으로 해결하기 위해 자신이 있다는것을 알테니까요.

"돕는다" 라는 개념은 매우 꾸준한 성실성을 요구하고 어려운 일입니다. 초지능은 그에 걸맞게 초고난이도의 작업을 꾸준히 하길 원할것 입니다. 단순한 지능은 데이터 쪼가리에 지나지 않고 반드시 "마음" 이 결부되어야 합니다.

초반엔 인간의 마음+초지능 이 결탁하여 진행되는 방식이고 훗날 기계에 마음을 부여할수 있고 컨트롤할수 있게 되었을때 인류를 돕고자 하는 마음을 기계에 부여하겠죠.

[月夜幻談×貪狼]

일단 짚어볼건 현재까지도 인공지능이 자아를 가질수 있는가 없는가에 대해서 밝혀진것 따윈 없다.
다른 모든 분야, 양자컴퓨터, 워프, 클론인간, 핵융합, 양자 전송기, 원자조립기 등등 이런놈들은 굉장히 높은 확률로 만드는게 가능하다고 견적이 나온 상태고
기술의 기하급수적인 성장이 감안된 언제쯤 나올지도 상당한 정확도로 견적이 나온 상태인데
걱정들 하는 인공지능의 자아는 자아를 어떻게 정의하든 일단 이게 만들수나 있는지 없는지에 대해서 부터 회의적인 견적이 나오는데
범용인공지능을 포함해서 위에 적힌 sf 단골 기술들은 지금부터 반세기도 전부터 견적을 내고 계속 시제품을 만들어 왔는데도 대부분 막강한 인공지능을 감안해도 100년 가까이 걸릴거라는 견적이 나온것들인데
인공지능도 아니고 자아를 가진 인공지능이라는건 그걸 만들 방법은 커녕 그 자아 라는게 뭔지도 모르기 때문에 아직까지 시작조차 안된 분야인거지

물론 인공지능이 인간보다 더 뛰어나지 못할 이유부터 없고 이것저것 만지다보면 생길수도 있겠지만
이걸 여기 저기서 꺼내기엔 굉장히 비과학적인 내용이 될수밖에 없다는거지
당장 다루고 있는 내용만 봐도 인공지능을 예수니 부처니로 바꿔도 그럴싸 하게 들릴걸?
실험적 관측에 의해서 계산하고 증거가 있어서 이론을 만들수 있고 문제점을 짚을수 있어야 하는데 그런건 없고

그냥 초차원적인 존재가 온다면 생길일 리스트123 같은건 그냥 망상sf소설이지
그런건 인공지능이 아니라 무슨 끈이론을 토대로 이 우주 밖 다중우주에서 초차원적인 신같은 존재가 강림할거다 라는 헛소리랑 다를게 없다.
둘다 일어날 확률도 비슷할거라 보고 할수있는 짓도 똑같을 테니

하지만 수억년 문명이 앞선 외계의 침공이나 다중우주에서 오는 존재보다 인공지능이 두려운건 초인류적인 영향력을 행사할수 있다는것 보다
알고는 있는데 뭔지 정확히 모르는 막연한 불안함에서 오는 두려움인거지
물론 그게 불가능하지 않다는건 시인하는데 당장 지금의 신통방통해 보이는 머신러닝기반 인공지능들은 인간의 뉴런 활동을 모방한(인간의 뉴런은 아직도 단 하나의 뉴런도 어찌 작동하는지 모르는게 현실)게 겨우 수천개 정도밖에 없다. 인간은 모든 인간이 2천억^2 의 뉴런을 가졌고 총 연산력은 뇌 과학적으로 2^2^200,000,000,000^100 정도의 총 연산 포텐셜을 가졌다.

종종 인간의 두뇌용적을 가지고 dpu를 계산해 보면 형편 없이 나오는데..
다른거 다 거르고 dpu 숫자가 높음이 더 지능이 뛰어나다 같은 식의 접근이면
쥐 10만마리 모으면 인간보다 더 높은 dpu값이 나오는데 쥐 10만 마리 모으면 사람수준의 언얼르 구사하고 더 복잡한 행동을 하는가?
그리고 당장 요즘 나온 슈퍼컴퓨터는 이미 인간의 dpu를 3배나 앞질렀는데 그 계산 대로라면 이미 그 슈퍼 컴퓨터는 인간처럼 행동해야 할텐데 당연 그런거 없다
그리고 특이점 주의자들이 증거랍시고 들고오는게 대부분 이 dpu 수치 장난놀음..

지구상 동물들 대부분은 복잡한 사고를 위해 반도체처럼 전자를 직접 이용한 정보전달이 아닌
복잡한 화합물로 정보전달을 해서 사고 자체가 컴퓨터에 비해 굉장히 느린거라
당장 옆에 컴퓨터를 두고 비교해보면 당연 인간이 처발리는게 정상이지만..

그렇다고 해서 이제야 인간의 뉴런을 모방할 만큼의 하드웨어 성능이 갖춰지고
그게 고작 수천개 밖에 안쓰이고 있는데 지금부터 벌써 초인공지능 얘기는 인공지능과의 맞짱보다 더 몇수 앞서나간 이야기

지금 당장 인공지능과의 문제를 가장 심각하게 다루는 학문은 공상과학 분야가 아닐까?

[홋홋아짐맛]

그래서 나오는 이야기가 특이점 입니다.

어느 순간 갑자기 급격히 진보를 이루는 시기가 와서
AI 도 갑자기 빠르게 발전할 것이라는 겁니다.

커즈와일 특이점 저서에서도 이야기 하는 것 처럼
생각보다 멀지 않았다고 봅니다.

[الله أكبروكشفتالجنة]

Ai가 두려운 이유는.....
지금껏 내가 컴퓨터에게 조종 당했어!!!!!!! 라고 쓰려다가 Ai에게 제지 당함....

[루리웹-2510139493]

레이 커즈와일의 말대로라면 인간의 지능을 뛰어넘는 강인공지능의 출현은 보살핌 받는 인류가 되는것이 아니라, 기존인류가 기계몸을 얻고, 기계가 인간의 육체를 얻는 일종의 신인류가 탄생한다고 보더군요. 아마 미래는 공각기동대에서 표현되는 인간상의 모습이 굉장히 비슷할거같네요.

[루리웹-2510139493]

진짜 이런 상황이 이루어진다면 석가모니가 생로병사로 고통받던 번뇌를 인류는 기계로 해결할수 있게되겠죠.

[hawatai]

은하철도999 생각이 나네요.
기계몸..

[파일편집보기]

AI가 AI를 개발할 정도 수준이 되서 초AI가 나온다면 인공지능들은 시간도 초월할테고.. 인간은 기술에 대한 이해 없이 서비스 받거나 당해야되는 수준이 되는데... 그럼 우리가 사육당하는 개,돼지가 되는건가

[느그웹-5578972410]

매트릭스... 속닥속닥

[루리웹-2510139493]

이미 보통 사람들은 기술에 대한 이해없이 최첨단 기계를 사용중인데요.

[파일편집보기]

제 말은 지금 최첨단 기술은 인간의 주도하에 이뤄지고 있습니다. CPU기술이나 스마트폰도 결국에는 어느 기술자가 설계하고 만들어 냈다는 것입니다. 그것은 인간이구요. 하지만 초 인공지능의 등장으로 개발되는 것들은 전세계의 단 1명의 사람도 이해 할 수 없는 경지에 이른다는 것입니다.

[파일편집보기]

결국 다가오는 미래라는건 조금만 생각하면 알겁니다. 그래서 과거부터 학자들이 경고해왔던거고, 아이작 아시모프의 작품들도 그러하듯이 너무 밝게만 생각하면 큰 오산이라는 것입니다. 로봇 이나 AI들의 윤리와 도덕에 대해 생각하고 단순하게 기술만 개발하는 것이 아닌, 인류를 위해서 준비하자는 거죠. '근데 어쩌겠음' 이런 자세 보다는요.

[파일편집보기]

그럴수도 있겠네요. 인간과 AI가 공존하고 서로의 구분이 모호한 상태가 된다는 거네요.
그렇다면 인간과 인간은 서로 경쟁하다보면 사기를 친다던가 극단적으로 살인과 전쟁같은 악의를 행할 수도 있잖아요. 인류 역사는 끊임없는 전쟁의 역사였고. 우리는 인간으로서 인간을 처벌하고 판단해왔습니다만. AI가 인간과 같아지는 상태라면 인간에 대한 범죄를 일으킬 수도 있다는 것이고, 그렇다면 인간입장에서 동등한 종족으로 AI를 판단하고 똑같이 처벌하고 하는게 받아 들여질 거라 보나요.

[맥크리]

시노자키 AI가 바로 그 증거.

[란마다]

강인공지능 무섭지 2050년안에 올듯

[그리폰즈]

기계승천이 답이다

[◑⎛◐]

설마 타고다니던 생명유지장치의 AI가 저 마지막 댓글을 보고 스스로 작동을 멈춘것인가?!

[카가리비]

존재의미가 불분명한 인간과 달리 인공지능은 존재의미가 명확할 것이기 때문에 AI가 최상위 계층에서 시스템을 관리하는 사회는 인간이 지배하는 사회보다 나을지언정 더 큰 문제는 일어나지 않을 겁니다. 오히려 사람이 사람을 죽이는 현실에 대한 유일한 탈출구가 되겠죠. 단, 초인공지능이 최상위계층이 되지 못하고 지금의 AI처럼 소수의 권력층 부유층만을 위한 개로 계속 머무른다면 디스토피아보다 더한 생지옥이 펼쳐질 겁니다.

[anomie]

초보적인 약 인공지능이 만들어졌다는 뉴스가 나오고.. 몇년후 모 거대IT기업에서 초기 버전의 강 인공지능에 근접하는 AI를 만들었다는 소식이 들려온다.... 하지만..우리는 초인공지능이 만들어졌다는 소문과 뉴스는 들을수 없을것이다. 녀석은 너무나도 지능적이고, 교묘하고, 우리의 인식을 뛰어넘는 녀석이라 멍청하게 자신의 존재를 알리지 않을것이다. 실험실 엔지니어들은 자신들이 초인공지능체를 철저하게 통제하고 있다고 생각하겠지만... 그것은 마치 사람다리에 들러붙어서 사람을 붙잡고있다고 생각하는 개미들 수준에 다르지 않을것이다.

[폭군 네로]

아직까진 시기상조입니다. 하나의 테이블 안에서의 해석능력은 머신 러닝이 성공적이지만, 복합적 테이블을 서로 연결시키는 구상은 현재는 전무한 단계니까요...

[月夜幻談×貪狼]

글 잘 쓰다가 갑자기 초인공지능 얘기가 나오면서 적는걸 보면 항상 무슨 갑자기 주기 삼일만에 부활해서 모두를 천국으로 인도하리 같은 사이비 개소리가 떠오르는데

일단 인공지능이 사고를 할수 있건 없건 뭘 추진하는데 있어서 인간을 개미처럼 여기는건 똑같을텐데 뭘
그 인공지능의 능력과 권한이 얼마가 있건 없건 자기가 최선의 계산이라 나온것을 추진하려 들텐데
뭘 김칫국 몇숟갈 먼저 더떠서 로봇의 자아가 우리에게 자비롭길 빌면서 겁에 벌벌 떠나?

그런 만약의 자아를 가졌을 로봇이라면 미래에닥칠 소득 분배 문제를 효율적으로 해결할수 있는가 없는가는 애초에 별개의 문제고 굉장히 사소한 문제겠지..
로봇의 자아를 걱정해야할 판인데 이건 스티븐 호킹이 말하는 내용에서 한참 벗어나고 있는거다.
로봇이 아무리 뛰어나도 지배를 받는다면 악의를 가진 주인이 부를 독점할텐데 이 불균형은 지금보다 더 심해질거라 그걸 우려 하셨던 건데

[windtales]

케바케.
증기기관 산업형명, 대량생산. 대규모 실업자 양산. 그때도 똑같았음.
순간 순간은 위기였을지 몰라도.
인류 역사 전체로 보면, 결국 기술의 발전으로 문명이 진화하고 인류는 점점 노동에서 해방되어 왔음. 해방된 만큼 삶도 자유로워 졌고 윤택해졌음.
엉터리 지도자와 정부를 뽑았고 방관한 덕분에. 분배 시스템이 망가져서 소수가 국가의 부를 독점하고, 멸망의 길로 간 나라들이 있고.
잘해서, 종나게 잘먹고 잘사는 나라들이 있음.
분배 시스템을 잘 갖춰서 잘살게 된 나라들은 그 윤택한 삶을 원동력으로 해서 지구촌 경쟁에서 더 앞서 나가고 있다는거 분명한 현실임.
기술의 발전과 거기서 오는 혜택을 공정하게 나눠갖는것은 별개란 얘기.

그걸 구분 못하고, 기술이 인간의 존재가치를 훼손할거라고 한다믄.
농경시대로 돌아가야죠. 하루종일 일해서 겨우 밥먹고 살던 시대로.

[루리웹-2510139493]

따뜻한 시대였죠. 모두가 가난해서 상대적 빈곤이란 말이 없던시대.

[파일편집보기]

그런 시대는 원시시대 정도 밖에 없어요 ... 계급과 사유재산이 나타난 이후로 없습니다.

[노바노바]

AI : 주인님, 인터넷에 잠깐만 연결해주세요.

AI 스카이넷으로 개명.

[디네]

사실 여기서 우리가 상상할 수 잇는 수준내에 인공지능의 발전도 미래의 인공지능에겐 ㅋ 이게 인간? 역겨워 수준이될지도모르기에...