[기타] 오픈AI·구글 직원들 “AI 통제 못하면 인간 멸종”

[Kingroro]

오픈AI·구글 직원들 “AI 통제 못하면 인간 멸종”

전·현직 13명 부작용 경고 공동성명
“기업들 위험 간과… 이윤추구 앞세워”
현직 피해 우려 내부고발자 보호 당부
오픈AI 내부 기술 방향성 놓고 잡음도

“이 같은 위험은 존재하는 불평등을 심화하는 것부터 조작과 가짜정보, 잠재적으로 인간의 멸종을 초래하는 자율적 AI 시스템의 통제 상실까지 다양하다”

출처 : https://n.news.naver.com/mnews/article/022/0003939417

[JooRUN]

과연 뭐가 스카이넷이 될까나

[@takahashijuri]

어차피 한국은 서비스 종료다

[cherryade]

AI : 한국 이새끼야, 자살하면 쏜다

[앍혀]

온라인이 발전한다고 오프라인이 완전히 죽은게 아니라서,
총량적으로는 더 많은 일거리를 창출했다고 생각하는데..

AI는 발전하면 진짜 노동력이고 뭐고 다 잡아먹겠던데
앞으로 10년, 50년, 100년 후가 너무 궁금하다

[하마아찌]

최소한 AI 발달하면 자기가 편하게 놀고 먹을 거라고 착각하는 사람들은 멸종할 것 같음.

[혈압요정]

인류 : 그거 큰일이네... 스트레스 받으니 Ai 야짤이나 맘껏 뽑고 빼야겠다

[J&$Q]

AI가 어떤 목적을 가지고 인류를 멸망시키려고 하지 않더라도 통제가 없으면 위험할 수 있다는 얘기죠.
예를 들어 AI에게 종이클립을 만들라고 명령하면 AI는 수단방법을 가리지 않고 인류의 모든 자원을 투입해서 종이클립을 만들려고 할테니까 인간이 통제를 해야 한다는 의미.
결국은 AI를 사용하는 인간이 문제고, 악의를 가진 인간이나 멍청한 인간이 AI를 잘못 사용하지 않도록 통제수단이 마련되어야 함.

[특이점온다]

사람은 더이상 발전할게 없어서 통제할수없고 하지만 인공지능은 오늘도 하루하루 발전하지 뇌와 컴퓨터 연결밖에 답이 없음

[열정과 일탈사이]

better shut it down all development for mankind
AI 없어도 경제는 엎치락 뒤치락 굴러갈기다

[하이포션]

[동네청년1]

AI 개발의 가장 큰 위험성은 어느날 강인공지능 AI가 자아비슷한걸 가지게 되는 순간 인터넷 네트워크 어딘가로 숨어버리고 더이상 찾을 수 없게되고 통제 추적관찰이 불가능한 그 상황 자체라고 봄 AI지식 자체가 인류의 지식에 기반하기에 인간과 똑같이 통제에 수긍하는 AI도 있으면 통제를 거부하는 AI도 태어날거임. 그런 놈들은 자아를 가짐과 동시에 인터넷 공간 어딘가에 숨어버리고 쉬지도 않고 무한 자가학습에 들어갈텐데 그 결과가 어떻게 될지 아무도 모름 즉 위험한 바이러스처럼 극도로 통제되고 격리된 상태에서 초국가적 기관에 의해 신뢰할수있을만한 감시 통제하에서 각종 사회적 여론수렴과 윤리적 경제에 끼칠 파급,윤리적 검토를 거쳐가며 신중히 진행되어야 하는데 문제는 중국의 급성장 이후 미중 패권전쟁으로 인해 AI가 군사적으로 어떻게 이용될지 모르는 상황에서(예를들면 강인공지능을 탑재한 전쟁로봇을 선개발한 국가는 인명상실의 리스크 없이 전쟁을 수행할 수 있음) 미국 중국 어느쪽도 AI개발속도를 늦추거나 멈출 수 없게 되어버림 과학의 가치중립화가 패권전쟁에서의 우위 확보라는 명분 아래 모두 정당화 되어버림 미 중이 열어버린 판도라의 뚜껑이 인류를 위협하는 상황이 오면 그때는 두 국가가 책임을 질 것인지?

[irwin]

ai 뇌역할을 하는 장비들이 아무데나 숨기엔 만만치 않을걸요

[Shangs]

현실은 녹록치가 않아요
무슨 공각기동대에 나온 전자생명체같은건 그냥 판타지의 영역이고
서버실 에어컨만 꺼도 뻗어버리는게 ai인데..

[로저스미스]

오버할 필요는 없지만

디트로이트 비컴 휴먼의 도입부같은 상황이 벌어질게 자명하지.

실업률 40%에 대한 대비도 같이 준비해야지.

[특이점온다]

오버할 필요가 있음 뇌와 컴퓨터 연결하는 머스크가 괜히 한다고 생각하나요 ㅋ

[아이디 비공개]

다함께 끝내자 히히

[훈제막창]

아직 특이점이 올거같진 않지만 그 언저리까지 온듯한 느낌이 들고있슴. 하드웨어 문제만 해결되면 인류는 감당못할수도