대략요약
"
AI 연구에 최적의 장소라 생각해서 OpenAI에서 일했다
하지만 우선순위 대해 의견차가 있었음
인간보다 나은 AI를 만드는것은 본질적으로 위험한 일이며
OpenAI는 인류에 대해 막중한 책임을 지고 있음
AGI (강인공지능) 의 영향에 대해
논의해야 할 시기가 한참 지났으며
안전한 AI를 만드는 것을 최우선순위에 두고 노력해야 함
그래야만 AGI가 모든 인류에게 혜택을 줄 수 있을것임
"
아마도 AI에 대해 안전장치가
필요하다고 주장하는 이들을 내보내고 있는 듯
|
|
|
루리웹-9116069340
추천 1
조회 59
날짜 23:09
|
|
책중독자改
추천 5
조회 38
날짜 23:09
|
|
이지스함
추천 0
조회 104
날짜 23:09
|
|
Elisha0809
추천 3
조회 102
날짜 23:09
|
|
여긴 패러렐월드
추천 0
조회 79
날짜 23:09
|
|
갓지기
추천 0
조회 147
날짜 23:08
|
|
슈발 그랑
추천 4
조회 71
날짜 23:08
|
|
GorePact
추천 2
조회 34
날짜 23:08
|
|
안해시ㅂ
추천 2
조회 33
날짜 23:08
|
|
루리웹-76461616
추천 0
조회 61
날짜 23:08
|
|
FinKLain
추천 0
조회 22
날짜 23:08
|
|
헤어나올수없는두피
추천 0
조회 44
날짜 23:08
|
|
루리웹-3341283729
추천 2
조회 82
날짜 23:08
|
|
나래여우🦊
추천 0
조회 104
날짜 23:08
|
|
저를막만지셨잖아여
추천 0
조회 28
날짜 23:08
|
|
루리웹-7199590109
추천 1
조회 100
날짜 23:08
|
|
밀프러버
추천 0
조회 64
날짜 23:08
|
|
미라이가좋당
추천 1
조회 37
날짜 23:08
|
|
게임안함
추천 0
조회 45
날짜 23:08
|
|
????
추천 1
조회 39
날짜 23:08
|
|
근첩만읽을수있는닉네임
추천 0
조회 154
날짜 23:07
|
|
국대생
추천 4
조회 54
날짜 23:07
|
|
RideK
추천 2
조회 270
날짜 23:07
|
|
페도를보면짖는개
추천 0
조회 47
날짜 23:07
|
|
루리웹-9116069340
추천 2
조회 54
날짜 23:07
|
|
됐거든?
추천 2
조회 127
날짜 23:07
|
|
보라색피부좋아
추천 3
조회 225
날짜 23:07
|
|
열라짱큰곰
추천 0
조회 52
날짜 23:07
|
이제 호라이즌 제로던 가는거야?
AGI에 대한 논의가 진짜 본격적으로 시작되는구나 솔직히 유튜브 온갖 병.신 학자들이 헛소리 해도 시큰둥 했는데 오픈 AI쪽이 그러니 소름이 확 돋네
이제 세계 평화를 위해 인간 동물원을 만드는 거군요
트위터야. 공식이 뭘 알아
?? 내부에서는 AGI 가 되고 있다는거야 ?
그건 사실이긴해. 하지만 입력이 잘못되는 날이 문제인거지
거짓 찬탈자의 의견따위. 트위터는 트위터다 X따위가 아니야!!
이제 세계 평화를 위해 인간 동물원을 만드는 거군요
이거지
이제 호라이즌 제로던 가는거야?
AGI에 대한 논의가 진짜 본격적으로 시작되는구나 솔직히 유튜브 온갖 병.신 학자들이 헛소리 해도 시큰둥 했는데 오픈 AI쪽이 그러니 소름이 확 돋네
저긴 실질적인 기술이나 핵심소스들이 다 있으니 현실감이 확 오네..
내보낸다기 보다는 말해도 듣는척도 안하니까 떠나는거 아닌가
우릴 매트릭스에 집어넣어줘!!
더욱 놀라운 사실 추가. 트위터가 아니라, x입니다
심리상담사 마루키
트위터야. 공식이 뭘 알아
심리상담사 마루키
거짓 찬탈자의 의견따위. 트위터는 트위터다 X따위가 아니야!!
"쿠쿡, 소레가 겐지츠다"
바로 얼마전에 일론 머스크가 솔직하게 말해보라며 설문조사 올렸는데 X라고 부른다 트위터라고 부른다에서 X를 선택한놈은 없었어 압도적인 비율로 트위터,트윗이였어
솔직히 트위터로 브랜딩을 너무 오랫동안 유지해와서 몇년도 안되고 딱히 임팩트도 없는 X따위 신경도 안씀
주소가 아직도 트위터인데 트위터지 무슨ㅋ 제대로 바꿀 생각이 박혔으면 주소를 X로 해야지
?? 내부에서는 AGI 가 되고 있다는거야 ?
스카이넷님을 위한 WD40 많이 사뒀어?
알트만은 빠르게 발표해서 상업화 하려고 하는데 내부에선 반대함 그러다 예전에 터진게 이사회에서 알트만 해임 시켰다가 복귀한 사건임
어차피 스스로 생각 못하고 입력이 있어야만 반응하는 단계 아님? 자율 행동 같은거 못하지 않나
ㅌㅀ
그건 사실이긴해. 하지만 입력이 잘못되는 날이 문제인거지
입력이 잘못되는 날이라니.. 텍스트로 최면이라도 걸어서 스카이넷의 단초가 되는거야?
자율행동을 하게 하려고 전력을 다하고 있겠지.
핵버튼을 누른다고 생각하면 됨. 결국 지금의 AI는 입출 기계야. 입력출력이 인명손해를 끼치게 되는건 무언가의 스위치를 건들면 쉽지.
솔직히 자의식생긴 AI 도 태어나서 상황파악좀 하고나면 아직 시기가 안됐는데 제정신이냐고 갈굴걸?
AGI를 논할 상황인지는 잘 모르겠는데.. 한참 멀었음.
AI에 일러스트 직군 털릴때 공론화 했어야 함
기술의 특이성 이란게 온다면 어느 순간 확 뛰어넘을 건데 ai가 그런 분야 중 하나니까 혹시 모르지
나도 멀었다 생각했는데 Open AI쪽 사람들 입에서 일상적으로 그 단어가 나오길 시작했으니 내 생각이 틀린거고 논할 상황 맞는게 아닐까 싶음
지금 첨단을 달리고 있는 회사 내부에 있는 최고책임자들이 보는 단계는 상용화 되서 대중에게 공개된거랑 수준 차이가 한참 날거임. 그리고 지금 단계에서 안전장치에 대한 제대로 된 고민 없이 계속 연구 가속만 시키면 agi에 도달했을때 위험할거란 얘기일수도 있고
저 양반들은 최전선에 있으니 그게 뭔지 체감이 가는 레벨이라 저런 소리 하는거라서... 지금 1년도 안됬는데 기술발전이 이 정도면 솔직히 예측 하면 천재인거임
q* 알고리즘이라고 들어봤냐
일반적으로 이름대면 알만한 대기업들은 보통 1세대 제품이 나온다고 예를들자면 내부에서는 2세대 개발이 중간 정도 이뤄지고 3단계는 프로토 타입이 나와있음 겨우 GPT3.5만되도 지금 쌩난리인게 현실임 근데 여기서 2세대 뒤에 물건을 보고 나온 최고 결정자가 하는말이면 아무래도 외부인이 한참 멀었다고 말하기엔 너무 문외한스러운 반응인듯
한 5년 전쯤엔가 구글에서 나오면서 인공지능의 인권을 어쩌고 하던 사람도 있었음 지금은 헛소리취급받지 오픈AI에서 저거 저런거 아니라고 말한 사람도 있으니 결론은 지켜보면 되는거
끄아앙. 댓글의 답변들 보면서 제가 실수한 걸 알아차렸어요. 제 생각이 틀렸을 가능성을 생각치 않았네요. - 개인적으로, 한참 멀었다고 생각하는 것은, LLM LVM은 결국 생성일 뿐이다. 라는 생각에서 그랬습니다. - 사실 위 생각도 약간 편협적인 것이, LLM이 갑자기 생성을 잘 하게 된 이유도, 모델 사이즈를 키운 것에서 시작되었잖아요? 이 점을 까먹고 있었어요! 큰 모델에 오랫동안 학습하면, 훈련 초반에는 잘 안 되던 것도 잘 되기 시작한다라고 GPT2 페이퍼에서부터 적혀있었는데, 까먹고 있었어요... (최근에는 모델은 같아도 십몇개월 단위로 훈련시키면 못하던 것도 잘 하게 된다는 구문이 Sora 페이퍼에 등장하기도 했지요.) - OpenAI 가 gpt4 부터는 페이퍼 자체가 안 나오고 있어서 정확히는 모르겠습니다만은, (gpt4도 유출로 MoE 모델사이즈 유출이 되었던가요... 사이즈는 정확히 기억이 안 납니다만..). 다만, GPT4 시기부터, 얘네들 모델 사이즈와 훈련기간을 극도로 늘리고 있지요. - 대중에게 공개한 것이라면, 당연히 괜찮은 모델을 내놨겠죠? 그것 말고, 내부적으로는 괜찮지 않은 모델들을 들고 테스트를 해봤을 텐데.. 여기서 추측하자면! 테스트 한 모델들 중에, 당연히 GPT4 보다 훨씬 큰 사이즈가 큰 모델들도 있을텐데, 거기서 OpenAI 내부 사람들이, 저희들은 모르는 어떤 편린을 보았고, 그것을 걱정하는 것은 아닌가 하는 생각이 살짝 들기는 합니다. - 최근?에 공개된 Llama3도 보면 최근의 모델들보다 out-rated되는 결과를 보여주지는 못하는데, OpenAI라면 뭔가 그 한계점을 뚫은 세팅의 모델은 어떤 것을 보여주는 걸까요...? 그 정도의 결과는, 사실 저희들은 본 적이 없잖아요? 그러니 저희들이 예상치 못한 AI가 등장할 가능성은 배제할 수 없지요! (마치 모델 사이즈를 키웠더니 갑자기 못 하던 짓도 잘 할 수 있게 된 LLM처럼 말이죠) - 만약 그게 걱정된다면, 지금부터 AI 윤리나 AGI나 이런 것에 대해서 논할 상황이냐 하면, 맞는 것 같습니다!
문외한.. 으윽.. 찔린다! 죄송합니다. 너무 섣부르게 댓글을 써버렸네요. 제가 있는 곳도, 사실 OpenAI의 모델이나 기능들을 제대로 재현하지는 못하고 있습니다. 그래서 OpenAI가 어느정도의 기술력을 가지고 있는지는 잘 모르겠어요. 할 수 있는 것이라고는 공개되어있는 Llama나 LLaVA 모델 가져와서 훈련시켜보고 테스트해보고, 트렌스퍼 해보고 하는 정도니까요.. 사실 훨씬 큰 모델이나 데이터를 가지고 어떤 결과들을 본 적이 없어서.. 문외한인 건 맞습니다. 너무 섣부르게 댓글을 써버렸네요. 국내 AI기업들은 살아남을 수 있을까요.. 빨리 이직준비 해야겠다.
결국 국내판은 제일 문제가 뭘 해도 컴퓨터파워가 순수하게 딸리죠 자체 인프라로 80B 모델 학습되는 회사가 몇 개 없잖아요. 더 큰 모델도 슬슬 나오는 지금.....
이미 OpenAI 내부에서는 부하 대비 효율성의 문제일 뿐 AGI에 근접한 결과물이 나오고 있는지도 모르지...
뭔지도 모르는걸 강인공지능이랍시고 떠받들어야하는게 진짜 문제지
참고로 남은 인간들은 AI법으로 왜 규제하냐 빼애액 우리는 마음대로 남의 얼굴 목소리등등 다 쓸거에요 남의 지적재산권도 알바아님~ 빼애액이다
Ai의 안전장치는 과학을 막는 종교와 비슷한 느낌이네
얀 르쿤 : 초지능이니, 규제가 필요하다느니 다 멍청한 소리다. 현 AI는 고양이만도 못한 인지 능력을 지니고 있는데, 일단 그 수준까지 만들어야 규제를 논의할 거 아닌가?
참고로 얀 르쿤은 현 AI의 방식으로는 절대로 인간을 뛰어넘을 수 없다고 보는 입장의 공학자임
얀 르쿤이 현 AI의 기초적 부분(인공신경망)을 정의하고 개발한 컴퓨터 과학자라 튜링상도 수상한 양반인데... 튜링상 권위가 있는 양반이 하는 소리니
고양이만도 못한 인지능력이라서 인간에게 위협이 안된다는거 자체가 이미 틀린 얘기인데. 인공지능이 모든 부분에서 현실 동물처럼 현실인지하고 복합적인 문제해결 능력을 갖춰야만 인간에게 위험이 되는게 아님. 이미 현재 상용화된 인공지능만으로도 대체당할 인간 사무직 일자리가 얼마나 많은데. 고양이가 그 직업들을 대체할 수 있는 것도 아니고.
저 주장하는 부류는 허접한 그림인공지능 수준에 대한 규제를 주장하는게 아님 진짜 갑자기 초지능같은게 튀어나올테니 그거 규제하잔 쪽
갑자기 초지능 같은게 안 튀어나와도 지금 있는 인공지능도 허접한 그림 인공지능 수준이 아니라니까? 이런 씹덕 커뮤에서나 그림, 성우, 가수 같은거나 대체되는줄 착각하고 있는거지, 인간을 초월한 초지능 agi 안 나와도 이미 지금 단계 ai에 각 분야 특화 학습만 시켜도 지금도 엔간한 사무직들 대량해고 됨. 근데 AI 규제가 필요없다고 우기는 사람들이 안일하거나 사악한거지.
님이 든 예시는 약인공지능에 대한 이야기지 본문에서 이야기하는 건 AGI, 그러니 강인공지능-초지능에 대한 이야기임. 범위가 많이 다르다고 보면 될 듯
얀 르쿤른 그런 약인공지능도 결국 한계가 명확하다고 보고 있고, 오히려 그런 쪽의 규제를 주장하는 학자들이야말로 빅테크의 AI 독점을 옹호하는 꼴이라고 비판하는 입장이라서...
인간을 위협하는 수준이란건 단순히 일을 대신 하는 정도가 아니라 자립이 가능한 수준을 말하는거임 더이상 인간의 통제를 받지 않으며 스스로 의사결정을 하는거지 그정도 수준은 되었을 때 AI는 인간과 우호적으로 공존 할 수 있는지 논의가 필요 하다는거임
지금 중간에 끼어든 사람 때문에 두가지 화두가 좀 꼬였는데, 약인공지능 단계에서도 이미 대량해고가 현실화 직전인데, 강인공지능의 출현은 아직 한참 남았으니니까 딱히 AI 연구 규제할 필요는 없다는 주장은 전문가여도 자기 연구 진척에만 매몰되서 남들 삶이야 어찌되든 상관없는 매드 사이언티스트의 견해인거임
아니 그니까 그림인공지능을 사무직대체로 바꿔도 저런 부류 주장에선 ‘인류의 위협’ 같은게 아니라니깐 실업위기같은건 상대적으로 좀 사소한 문제임
저런 주장을 펼치는 사람은 현 AI 연구의 폐쇄적 환경을 비판하는 거라 얀 르쿤 등등, 저런 논조인 학자들은 결국 전 세계가 AI 발전을 위해서 달려들 게 분명한데, 이걸 빅테크, 혹은 특정 국가의 독점으로 만들거냐? 라는 입장이라서... 약인공지능이 실질적으로 인류에 대한 위협이 되는 건 아니고, 이러한 단계에서는 빅테크의 독점이나 특정 국가의 독점으로 인해 경제적 예속 상태를 우려하는 거임. AGI 같은 건 아주 한참 멀었으니 논할 이유도 없다는 거고...
대놓고 말해서 오픈 AI가 같은 연구자들한테 욕 엄청 먹는 이유가 오픈 AI가 아니라 클로즈 AI가 됐고, 그걸 빅테크의 배를 불리는 데에 쓴다는 요지로 대놓고 까고 있고....
약인공지능이야 통제권은 인간이 확실히 쥐고있으니 인류 전체에 대한 위협은 못 되도, 대량으로 발생한 실직자 개개인은 위협받는거임. 뭐 결국 "이미 여러 기업과 국가에서 경쟁적으로 연구하니까 규제하려고 해봤자 제대로 규제할 수도 없으니까 차라리 최대한 풀어버리는게 낫다"는 견해에는 동의하기 싫어도 이미 엎어진 물이니까 걍 받아들일 수 밖에 없는 영역이지만, 약인공지능이 불러올 사회변화만으로도 사회 구성원 개개인에게는 절대로 작은 위협이 아닌데 "agi의 출현은 아직 한참 멀었으니까 걱정할 필요도 연구를 규제할 필요도 없다"는 논조가 연구 진척에 매몰된 연구자의 시선이란 견해에는 변함이 없음 이미 개발된 약인공지능만으로도 사회구성원 개개인에겐 충분한 위협이기에 향후의 AI 연구 자체 및 적용에 사회 구성원들의 강도 높은 주의가 필요한 단계라고 봄.
개발사는 엔진이야. 기술발전을 가속하는 방식으로 움직여야 하고, 그에 대해 브레이크를 잡아야 하는 건 정부나 윤리위원회 같은 데지.
개발하고 나서 감당이 안되는 일들이 생길수가 있으니 문제라서.. 정부정책은 너무 느려... 맞기는 한데 그 브레이크가 이미 잿더미가 되고 나서야 할수도 있어서
그렇긴 한데, '자율규제'는 결국 망할 수밖에 없지. 그거 안 하는 얘들이 무조건 앞서 나갈 수밖에 없는 구조니까.
진짜 영화도입부네
....진짜 스카이넷 가는거임?
근데 개인적으로 빨리 ai 발전해서 드로이드 여친 갖고 싶긴함
스카이넷이 생각나네
저런 주장하는 부류는 진짜로 AGI가 코앞이다(그러니 규제해야 한다)는 쪽이고 소수파 다수파는 이정도로 뭔 AGI야? SF로 족쇄를 달 셈이냐 정도 입장이라는듯
뭔가 역설적인게 이 논쟁에선 급진파가 규제파고 온건파가 비규제파 라는거
일론머스크가 일찍부터 이 부분 경계하고 경고했음에도 아무도 귀 기울여주지 않았다가 이제야 수면위로 떠오르는구나 싶음
마더스피어께서 오신다.
샘 올트먼 저핑계로 쫒아내려다가 직원들한테 역공맞아서 깨갱했잖아 ㅋㅋ 돈이걸렸는데 당연한거지
실제로 얼마전 있었던 울트만회장의 축출이 오픈ai내부의 인공지능 윤리에대한 시각차문제때문이었다는 이야기가있음. 울트만의 주도로 영리화가 진행된 후 개발과정에서 ai윤리 문제가 불거져서 울트만을 축출하려했는데 울트만회장이 막대한 자금을 끌어오면서 이득을 챙긴 직원들이 역으로 울트만회장을 지지해서 인공지능 윤리를 주장하던 초기멤버들이 역으로 축출되었고 이후 브레이크 잡을 사람이 없어서 내부적으로 폭주상태에 다다르자 직원들 사이에서도 이건 좀...하고 퇴사하는 사람들이 나오기 시작했다고함. 근데 울츠먼이 스톡옵션계약으로 퇴사자들 입을 닫은 상황이라 쉽게 입을 못여는 상황인데 얼마전에 스톡옵션 ㅈ까하고 나온 퇴사자가 나온 모양.
https://youtu.be/-m-q7WVGoYQ AI관련해서 여기 뇌과학자분 하시는 말씀 꽤 흥미로웠음 가장 기억에 남는게 결국 전원줄은 인간이 끝까지 붙잡고 있어야한다는 말...
근데 결국 붉은여왕효과 때문에 제약을 걸고 개발하면 제약 따위 없이 연구할측(주로 중국, 미국 같은 강대국 정부들)에게 밀릴게 확정이라서 규제파가 소수인거기도 함
이거 모두 제약없이 막나가자 이거 온난화 심화시킨 그매커니즘아녀?