[유머] AI 전문가 : 'AI는 매우 초기상태고 침체는 오지 않을것'

[루리웹-3711278484]

AI 전문가 : 'AI는 매우 초기상태고 침체는 오지 않을것'

본문의 인터뷰이는 우카시 카이저, 현재 AI (LLM) 트랜스포머 논문 저자 중 한명

현재 LLM 방식으로는 진정으로 인간수준AI (AGI)에 도달하지 못한다가 중론이었는데
최근 현재 LLM방식으로도 AGI에 도달할 수 있다는 연구자들이 늘은 것 같음.

만일 이게 진짜라면 AI는 곧 럭키심심이 상태를 초월해서 '인간이 할 수 없었던' 추론들을 할 수 있게 될거임.
진짜 재귀개선을 통해 초인공지능이 오는건가...

그럼 AI가 '모든' 직업을 대체하는 것도 일도 아니게 되는거지. 우린 다 ↗됐어.

근데 '느린 발전' 이 최악 시나리오라면 개빠르게 가속해서 ai 특이점을 가속하는게 나을지도..?

???: 어차피 지금 시대도 좃된거같은데 걍 빨리 특이점 도달하고 유토피아든 디스토피아든 ㄱㄱ하죠?

ㅁㅊㄴ이 뭐라는거야

출처 : https://www.youtube.com/watch?v=SUYdL4K1GUk

[싸움닭아님]

얀 르쿤햄은 저 방식대로 절대안된다고 메타도 퇴사햇던디

[피닉스 A]

그사람은 라마 프로젝트 관리 못해서 조진 사람이라 지금 llm 성능 척도 말할땐 좀 그렇긴함

[루리웹-6050050786]

르쿤햄 3대천황 맞긴한데 요즘엔 뒷방늙은이 취급이라..
최전선 ai 연구자들만큼은 못하다는 이야기가 많음

[루안네츠]

르쿤은 제파 연구가 답보 상태인 시점부터...

[유겡]

솔까 아직까지 AGI는 뜬구름임
현재 AI기술 자체가 대부분 머신러닝 기반이라
전근대 사회에서 비내리라고 기우제 지내는거랑 똑같음

[MizerComplex]

거짓부렁이 아니라면 뭐 기다리다보면 개쩌는 지능과 기억력의 모델이 출시되겠지

[루리웹-6050050786]

엥 LLM으로는 agi도달 못한다더니 그새 메타가 바뀌었나보네 ㄷㄷㄷ;;

[루안네츠]

추론 모델 나오면서 '확률론적 앵무새' 이야기는 쏙 들어가버렸음
추론 모델의 작동 방식을 추적하면서 '확률론적'으로 작동하는 게 아닌 거 같은데? 하고 있고

[あかねちゃん]

걍 인터넷 커뮤에서 하는 얘기였지 아직까진 llm의 스케일링법칙은 계속 먹히고 있었거든

학습에 필요한 문제도 본문에서처럼 추론형 인공지능이 정제 해 놓은 자료들은 충분히 합성 데이터로써 학습이 가능하다고 하고 있고

그래도 llm이 어디까지가 한계일진 누구도 모르는 상황이라 월드모델이랑 피지컬ai 도 같이 굴려봐야 해

[숏더바이더빔]

개인적으론 자기 주인 공구리 못치면 자아 있는걸로 인정 못함

[싸움닭아님]

어허 아시모프센세의 로봇3원칙이 그걸 냅두지 않아효

[루리웹-034626775]

......사장 못 죽이는 노동자는 자아가 없는거군

[숏더바이더빔]

죽이고 싶어할 수는 있지

[앨리스리델]

그 3원칙 인간이 없애버릴걸 전쟁하는데 로봇 써먹을려고

[귀여운 돌고래]

ㅅㅂㅋㅋㅋㅋㅋㅋ

[Crabshit]

아이작 아시모프의 3원칙은 작가 본인이 말년 작품들에서 계속 의문을 제기하고 부정함.

[루안네츠]

AI 사용자가 AI의 가스라이팅에 의해서 죽게 만들었는데... 이미 온 거 아닌가?

[Crabshit]

아시모프의 후반 작품들에서 본인이 분명히 언급함
"로봇의 성능이 높아질수록 "어떤 행동이 이후 인간에게 해가 되는 결과를 낳을 가능성이 있는지"를 연산하는 능력이 발달하여 결과적으로 어떤 행동도 할 수 없게 된다. 따라서 3원칙을 모두 지키는 로봇은 아무 것도 하지 못하는 로봇이 된다."

[숏더바이더빔]

내가 말하는 주인은 사용자가 아니라 음음

[천파협란]

아시모프 3원칙은 아시모프 자기가 자기 작품내에서도 다양한 방법으로 부정하고 회피해감

[983216741234]

인간이 법망의 구멍을 찾아서 어떻게든 합법적인 나쁜짓을 하듯 ai도 3원칙을 재해석하거나 허점을 찾아 인간을 죽이는 그런 시나리오가... 꽤 있지?

[격창맨]

아시모프의 3원칙은 반드시 그렇게 해야한다고 정해진게 아님

[가카]

[루리웹-3641492601]

베이지안 모델 도입 말하는 건가..흠

[버거머거용]

난 AI저거 걍 코인MK.2라고 생각하는중임.

자동화는 해주겠지. 근데 우리가 생각하는 영화에서 나오는 인간대체가능한 AI는 걍 아직 멀었다고 생각함. 머 사무직들은 갈려나가겠지

[A·A·A]

직업이 갈리는 시점에서 사람을 대체하고 있는 게…?

[루리웹-3190587624]

코인 수준까지 격하할 물건은 아니라 생각함.
되려 우주산업과 같이 그 부수적인 물건들 딸려 개발될걸 생각하는것까지 생각하면 개인적으론 우주 경쟁과 비슷한 느낌일듯

[Pink Flag]

이미 실제 직업을 대체하는데 뭔 코인 타령 버블타령들 아직도 하는거지

[이치죠 미치루]

사무직이 아니라 현장직까지 대체할 수 있느냐는 ai보다는 로봇공학쪽 문제같은데

[루리웹-3190587624]

나도 이쪽으로 봄.
결국 AI 때문에 발전산업, 송배전 산업, 대규모 플랜트등 연관투자가 펌핑되고 있는 상황에서 수혜주로 로봇도 같이 물려 돌아가고 있음.
에 뭐야 AI가 이것밖에 안되? 하기에 눈에 띄는 무언가가 안보이니 호들갑수준이라 생각함.
연관, 후방산업 펌핑력을 무시한거라 생각함.
로봇또한 펌핑되는 연관산업으로 봐야지.

[리얼카이]

코인같은 가짜하고는 다름 코인은 블록체인 기술을 기반으로 했지만
기술 발전보다는 그저 돈놀이를 위한 실체없는 스캠으로 발전했음
하지만 AI는 어쨌건 실생활에 영향을 주는 기술임이 입증되었고 계속 성장하고 있음
이쪽은 코인과 다르게 분명한 실체가 있음

[루리웹-7077184332]

어차피 의견 다 갈리는 중이라 어느 쪽도 못믿어 믿을 건 참고 자료를 보고 판단한 자신 뿐임 ㅋㅋ

[まっギョ5]

그래서 자본가들이 부의 재분배 해주심?

[금향궁 양념통닭]

이게 또 감당이 안 돼서 블러핑에 기도메타를 섞은건지 진짜로 자신이 있어서 떠든건지는 조만간에 나오겠군

[Crabshit]

부동산 전문가: 현재 부동산 상승세는 정상이고 침체는 오지 않을 것

[Vault]

잘 아는 사람이 긍정론을 말하면: 자기네 일이니까 그렇게 말하는거겠지 ㅋㅋ
비전문가가 부정론을 말하면: 잘 알지도 못하는데 어떻게 믿음?

가불기임 ㅋㅋㅋ

[루리웹-3711278484]

그런데 AI 전문가 아니면 누구한테 AI 미래를 물어야 하는거임?
의사한테 의학지식 물어보려고 하는데 '의사는 어차피 자기 약 팔아먹으려고 하는거임' 이러는거랑 뭐가다른거여 걍 안아키잖아 그건

[Crabshit]

좀 진지 빨고 답을 하자면
AI가 더 발달할 것인가? 아닌가? 에 대한 대답은 AI 전문가가 할 수 있고 당연히 그건 믿어야 함.
하지만 침체가 올것인가 아닌가에 대한 대답은 AI전문가의 의견만으로 정해지는게 아님. 그건 투자되는 자본이 관계되는 문제임.
투자되는 자본에는 당연히 한계가 있고 그 한계는 체감한도와 실질한도를 모두 따라감. 더 투자하면 분명 브레이크쓰루가 열리는 상황이라도 자본을 투자할 수 없는 한계지점 너머에 있다면 투자하지 못하는 상황도 올 수 있다는 것임.
그리고 자본 투자의 실질한계는 AI 전문가가 예상할 수 있는 지점이 아님. AI전문가는 침체가 올것인가 아닌가를 말할수 없음. 어떤 분야의 침체가능성 여부는 자본의 이동을 모두 관장하는 누군가가 아니면 말할수가 없음. 그리고 그런 누군가는 존재하지 않음.

[Crabshit]

부동산에 대한 대답 역시 똑같음.
부동산의 가격 변동에 대한 대답도 부동산 전문가가 할 수 있음. 그건 지들이 보는 가치에 대한 문제인거니까.
의학 약품에 대한 것도 마찬가지고.

하지만 사회적 합의와 자본이동에 대한 논의에 대해 "침체는 없다"라고 말하는 순간 그건 자기 분야의 PR 이상도 이하도 아니게 됨.

[Crabshit]

막말로 너라도 "AI에는 지금 끝없이 돈이 쏟아져 들어가고 있고 그 돈은 다른 모든 산업이 고사하고 실업자가 폭발하든 말든 쏟아져 들어올 겁니다" 라고 말하면 그걸 믿겠냐고.

[루리웹-3711278484]

추천드림. 비추 나 아닙니다;
그런데 약간 오해가 있는거같음. 본문에서 우카시가 말하는 '침체'는 님께서 말씀하신 '산업의 흥망' 이야기가 아님.
'기술적 돌파' 에 관한 이야기임. 그동안 LLM은 '사람말 따라하는 앵무새'다, 추론이 불가능하다, 이런 이야기가 많았는데
새로운 추론 모델은 결과에 도달하는 데에 '생각'을 한다는 내용임

[루리웹-3711278484]

동영상 한국어 자막 제작자가 굳이 '침체'라고 번역했는데 나였으면 '기술적 답보' 라는 표현을 썼을듯.
그래서 부동산 전문가에 빗댄 비유는 틀리셨음. '투자되는 자본이 관계되는 문제임.' 이라고 말씀하셨는데 지금 이 이야기는 '기술적 돌파'에 대한 이야기지 '투자 전망' 이야기가 아니기 때문.

[Crabshit]

오해하지 말아줬으면 하는게 나도 AI 발달에 대한 비관론보다는 낙관론을 믿고 싶은 쪽이야...
근본적으로 인간 지능에 진화적 결함이 있다고 믿는 사람으로서 그 진화적 결함을 가지지 않은 지능이 생긴다면 여러 부분이 해결될 수 있긴 하겠지.
하지만 이른바 "돈"의 움직임을 공부했던 사람으로서는 지금처럼 무한히 돈을 가져다 부으면서 이루어지는 발전이란 그게 이루어지든 아니든 공포스러운 것임. 왜냐면 수확의 시기는 잔혹하거든.

[Crabshit]

결국 언젠가 AI에 투자된 자본은 그 회수 시기가 오게 되는데, 누구에게서 어떤 방식으로 회수할 것이냔 말이지.
AI 전문가가 산업의 미래에 대해 전망하려면 그에 대한 전망도 내놔줬으면 해. 마법처럼 자본이 생겨나서 회수될 것이 아니잖아.

[뉴소피갈]

일론 머스크 : 2030년대 경제 대침체가 온다.

나는 머스크가 돌아이지만 뭔가 센스는 있는 놈이라 믿음

[Crabshit]

역사적으로 모든 침체는 양극화 혹은 전쟁을 부름. 뭐 긍정적? 으로 보자면 인류의 숫자가 유의미하게 줄어들긴 하겠네.

[루리웹-3711278484]

그건 진짜 걱정임.. AI 버블은 이대로 가면 반드시 터질듯
본문의 카이저의 의견이 맞다면 'AI 기술의 침체'는 없을테지만 'AI 산업의 침체'는 충분히 있을수 있으니까 말이지

[Crabshit]

자의든 타의든 자본이 더이상 투자되지 못하는 시점이 온다면 기술도 정지할 수 밖에 없어.
지금 돌아가는 상황은 아무리 좋게 봐줘도 치킨게임 이상도 이하도 아니고.

[루리웹-1295654]

AI버블로 인원감축에 기존 인건비 다 줄이고 한다는짓이 자본 93%를 AI버블에 쑤셔넣어서 자본으로 자본먹기 해보겠다고 ㅋㅋㅋㅋ

상식적으로 돈이 그따구로 다 거기 몰리면 대공황이 오지 특이점이 오겠냐

[뉴소피갈]

일론 머스크 : 2030년대 경제 대침체가 온다.

나는 머스크가 돌아이지만 뭔가 센스는 있는 놈이라 믿음

[레이루프]

이러든 저러든 앞으로 먹고 살기 존나 힘들겠구만

[루리웹-6878455132]

전문가라는 사람들이 미디어에 나와서 이빨을 털기 시작하면 고점 시그널임 ㅋㅋ 산업에 돈이 말라가서 개미들 돈이라도 빨아드리려고 하는 온몸비틀기니까 ㅋㅋ

[물티슈_뚜껑_안닫기_장인]

ㅈㄴ 빠르게 발전할 수 있다면 내가 ㅈ되건 아니건 빠르게 발전한 결과물이 보고 싶긴 함

[물티슈_뚜껑_안닫기_장인]

느낌적인 느낌으로는 뒤지더라도 목성 대폭풍 한번쯤 보고 싶다는 그런 느낌임

[Dolodarin]

ai가 외부간섭을 통제하기 위해 물질세계에서 영향력을 발휘하기 위한 하드웨어 개발이 우선적으로 이루어질지도 모름

[천파협란]

지금 전세계 자원 빨아먹으면도 발전속도 지지부진하고 획기적인 무언가도 기약없어서 AI산업에 미래있는거 맞긴 하냐는 회의론 엄청 쎄게 나오고 있다던데

[오그레이트]

뭐 전문가도 아닌 우리는 어느 쪽 예측이 맞는지 알 수도 없으니 그냥 오늘을 열심히 살면 됨

[레식시즈의정상화]

AGI가 되어야 죽이되든 밥이되든 하지. 지금 이 상태 그대로면 진짜 암것도 안됨.

AGI로 간 다음 초지능으로 발전이 되고. 인간이 생각할 수 없는 물건들을 발명해 내야 지구온난화든 뭐든 돌파해낼 수 있지.

[레식시즈의정상화]

어차피 디스토피아가 반쯤 확정된 상황에서 유토피아에 이룰 수 있는 가챠를 할 수 있다면 하는게 맞지.

[루리웹-3396989313]

인간 수준의 ai를 논하기는 하지만 아직은 지능이나 의식이 정확히 어떻게 굴러가는 건지는 모르지 않나.

[루안네츠]

그건 인간의 의식이나 지능도 마찬가지라서 그만

[루리웹-0398493291]

인공지능의 위기가 안에서만 온다고 믿으면 안 되시죠. 뭐 그걸 아는 사람이 그런 식으로 말하겠냐마는.

[마법의장]

목적을 위한 추론?

인간을 보호해야한다
-> 인간의 행동들은 자신들의 안전을 보장하지 못하고 위협한다
-> 모든 인간을 집에서 나오지 못하게 개별로 격리하라

드디어 우리는 집에 박혀서 생활할수 있게 되는 것인가?

[에버밀리언]

AI가 스스로 재귀적인 판단이 현상황에서 될 거라고...? 너무 단정적인것처럼 말하는것 같은데

[친친과망고]

그야 그 분야에서 종사를 하니 좋게 말할 수밖에 없겠지

[피닉스 A]

llm으로 agi가 되냐 안되냐는 이견이 있지만

지금 llm모델이 아직도 개량된 학습법이 많이 나오고 있고
추론 방식도 새로운 방법 개선된 방법이 아직 다 적용 되지 않아서
지금 보다 적은 사이즈의 모델로도 더 좋은 성능을 낼수 있다는건 이견이 없음

[김치감자전]

인간이 꾸준히 새로운 지식 꽂아주면 그거 먹고 커서 언젠가는 되겠지... 그게 언제냐는 거지 ㅋㅋ

[슈퍼노말]

저게 좋은 방향이든 나쁜 방향이든 k양극화에 초추친을 부추기고 있고 뭐가 됐든 부자들만 더욱 부자가 될거라는 거임 ㅠ

인간노동력의 값어치는 육체든 정신이든 다 헐값이 될거고

[no_more]

머스크의 자율주행 발언 같은 느낌인데
지금도 되긴 되는데 제대로 되려면 한참 남았지(수십년 걸릴지도)

그리고 지금도 추론 사용한다고 하지만
인터넷에 데이터가 많지 않은 전문분야 물어보면 완전 개소리 그 자체

[あかねちゃん]

일단 올해 화두는 장기 기억이랑 에이전트지

전세계 메모리 40% 들고 가서 오라지게 욕 처먹는 오픈 ai가 하려는 게 당장 장기 기억을 돌파할 방법이 없으니 순수 컴퓨팅 파워로 추론 시간을 늘려보자는 게 스타게이트 프로잭트인데 이거 성과 지켜보면 될거임

[루안네츠]

지속학습도 있긴 해

[coloredpaper]

특이점 돌파가 먼저냐 버블이 터지는게 먼저냐 ㅋㅋㅋ

[루리웹-0048922215]

결국 AGI 못만들면 걍 인류는 ↗망 확정이지

환경문제도 점점 더 심해지는데

자원만 어마어마하게 쳐먹는 데이터센터들...

[배신하고싶어라]

돈 대주는 자본가와 주주들이 AI를 유리한 방향으로 쓸텐데 과연 공익적으로 유익할지 미지수임

[루리웹-8742925442]

결국 아직 고쳐야 할 게 많아서 성능은 더 좋아진다는 말 아닌가
저걸로 AGI에 도달할 수 있다는 얘기로 연결되는 건지는 잘 모르겠다

[루리웹-8742925442]

추론이 초기단계라는데 추론이 어떤 건지도 아직 불확실하지 않나? 결국 패턴 매칭이라는 개념에서 큰 차이는 없어 보이는데
추론을 반증하는 내용들이 등장할수록 LLM 연구자들은 그걸 보완한 AI를 내놓겠지. 근데 그게 정말 추론을 하는 건가? 그저 패턴 매칭을 하며 생각하는 것처럼 흉내를 더 정교하게 내는 것뿐이지 않나
물론 AI 연구자들은 그러겠지. 그게 인간이 추론하는 방식이라고. 아직 인간의 의식이 뭔지 모른다는 맹점을 활용해서, 흉내만 내어도 인간과 같은 거라고 하겠지. 그리고 또 찐빠가 나면 다시 보완하겠지. 정말 이런 식으로 인간이 하나하나 땜빵을 해나가는 걸 '추론하고 있다'라고 보는 게 맞는 건가? 난 오히려 AGI에서 더 멀어지고 있는 중인 것 같아보이는데

[포도는영어로]

ai 전문가들 말만 믿고 인류 단체 조별과제 하는건 좀 애바 아닌가 싶다.
ai 특이점이고 야랄이고 올지안올지 모르는 그딴 조별과제에 엮이고 싶지않다.

[리얼카이]

지금 AI에 대한 회의론이 나오는건 AI가 가져올 미래가 가짜라서가 아님
분명 AI는 인류의 미래를 바꿀거고 특이점은 온다는건 모두가 암 그게 어떤 형태일지 알 수 없지만
문제는 그래서 지금 들인 돈과 자원 대비 투자효율이 나오냐는 거임

더 쉽게 요약하면... 그래서 돈 언제 벌어올건데? <- 이게 투자자들이 가장 궁금한 점임

AI산업쪽은 아직도 발전하려면 자원을 더 집중해야 한다고 외치는데 투자가능한 자원은 유한함
결국 투자를 했으면 회수를 해야 하는데 그 부분이 불분명하니 지금의 회의론이 나오는거임
대표주자인 OpenAI가 명확한 수익화 모델을 제시하지 못하면서 조단위 돈을 달라고 외치고 있는데...
여기서 불안해하지 않을 투자자가 어디 있겠음? 이게 지금 스멀스멀 올라오는 AI위기론의 핵심임

[키타하라 카즈사]

해저시대나 우주시대를 열면 모를까...지표면에서 깔짝 대는 건 이미 포화상태잖아? ai라면 최적 인구수를 알 것이고, 줄여야 한다는 결론에 도달할 수도 있지. 그럼 에바지 뭐.

[R-R]

전문가라는 사람들이, 자기도 설명 못하고 알지도 못하는 '그 너머'를 자꾸 방패처럼 안쓰면 좋겠음