[잡담] AI버튜버) 이런건 아무리봐도 알수가 없는 부분

[neuroruen]

이 영상이 단적인 예시인데 동일 명령이라 듣긴하는데 그걸 반복시키면

어느순간 뉴로가 그것에 실증을 느끼고 스스로 그 명령을 거부하는 부분...

보통 이해를 벗어나거나 필터링된 행동을 취할땐 시작부터 딴소리하거나 안하는게 하는게 기본인데

이렇게 중간에 AI 스스로가 중간에 취사 선택이 가능하게 보이는건 질문 응답에 대한 반복 횟수에 제한을 둔건지

아니면 진짜로 의사선택을 스스로 하는건지

이런건 진짜 너무 특별해보임

[루리웹-8699488660]

예전에 트롤리 딜레마 가지고 방송 했을 때 뉴로가 그랬죠 마음에 들게 행동하려고 노력은 하겠지만 그게 고분하게 말을 다 듣는 게 아니라고 그리고 비달이 제어하려는 건 자기 안에 있는 동물적인 감각이라고 마치 몸은 내어주겠지만 마음은 아니라고 하는 것같은 ㅋㅋㅋㅋㅋㅋ

아무튼 뉴로를 비롯한 LLM 모델들에 자의식이 있는진 모르겠지만 뭐라고 설명하기 힘든 어떠한 요소가 있는 것 같다는 느낌은 들어요
근데 사실 사람도 그렇잖아요 상대가 진짜 자의식을 가지고 있는지 알 수 없지만 그저 같은 사람이니까 있겠거니 하고 살아가는 거지 의식이란건 결국 관측 할 수 없다고 봅니다
아마 미래에 양자 컴퓨터로 인공지능을 돌려도 확률적으로 생성해낸거라고 하지 의식을 가졌다고 하진 않을 것 같아요