.
본문
유머 BEST
힛갤
오른쪽 BEST
- 유머 BEST 더보기
- 아 씨, 게이 난사한다는 애 왜 안와
- 2030 면허 수강생 급락.jpg
- 블루아카)아루와 센세의 데이트 만화.updat...
- 망고 빨지 마세요
- 분탕이 많아서 운영자가 출동했던 메이플 인벤 ...
- 장수하는 mmorpg의 고질병.jpg
- 조선에서 유일하게 왕세'제' 타이틀을 달고 왕...
- 모텔 인생샷 인증💦 짤리기 전에 《클릭》🥵🥵🥵
- 왕자를 구해준 마녀 315세
- 드래곤) 디자이너에게 신이 내린듯했던 개쩌는 ...
- 사실 인종차별은 무지인 경우가 대다수임
- 말딸) 호스와트 망상 26
- 서큐버스의 성장
- 배달음식을 직접 만드는 외국인
- 주술회전) 노바라 2차 창작 대사가 밈이 된 ...
- 비 맞고 있는 아기 원숭이를 구해 주었다
- 이세계 전생 했더니 여자들 복근이 훌륭한 만화
- 야심한 세벽의 원나잇 하는 만화.JPG
- 통풍으로 고통받는 여고생.manhwa
- "이젠 저희를 잊으셨겠죠."
- 2만달러의 낭비
- 오른쪽 BEST 글 더보기
- 79년 아재가 꿈꿔온 방
- 친구들과 1박 2일 대구여행
- 역시 무더울 땐 비빔면이죠
- 샌드위치도 중국 욕할게 아니네요
- 용가리 치킨마요 덮밥
- 서울 잠실, 동화고옥
- 드래곤건담 풀개조 디오라마
- 근튜버)도라점장 만들어보기
- 롯데 커피껌 한일비교 + 뉴진스껌
- 300시간 동안 괴수8호 만들기
- 주말 인천 나들이 그리고 일몰
- F-35A 아카데미 & 타미야 2연작
- 일본 가면 거진 꼭 먹는 그 요리
- 퍼스트건담 2.0 짭리쉬드
- 디 오리진 짐 아크릴붓도색
- 아! 혼을 쏙 빼 놓으셨다
- 부실한 이야기와 높은 잠재력
- 체험으로서의 게임이란
- [게툰] 냥팔자가 상팔자
- [검은사막] 모험 가이드 대방출!
인기 검색어
유저게시판 최신글
alignment를 정렬이라고 왜 해석하는지 모르겠음. 그런 뜻도 있지만 컴퓨팅분야에서 정렬이라고 하면 sort가 먼저생각나기 때문에 이런식으로 해석해선 안됨 alignment를 조정이라고 해석해야 맞다고 봄. 실제로 alignment는 인공지능이 인간의 의도와 다르게 행동하지 못하도록 학습시키는것인데 왜 이걸 정렬이라고 하는건지. 지들이 용어 쓰면서도 이상하다고 생각안하나
Alignment 는 ai가 학습으로 얻어진 목표가 인간이 원하는 목표와 같은 방향으로 나란하게 일치하게 정렬되는 걸 말하죠.
그건 억지로 갖다붙인것에 불과하죠. 정렬이란 단어는 그럴때 쓰는게 아니에요. 두 객체의 각기 다른 목표를 같은 방향으로 만드는걸 정렬이라고 한다면 부모님과 자식의 목표를 같게 만들면 목표정렬했다고 하나요?
그럼 부모님과 자식의 목표를 같게 만드는 것을 목표 조정이라고 하나요? 이상한 예를 드신 거구요. the alignment problem이 나온 건 AI를 학습을 통해서 원하는 목표를 가지게 하는 과정을 align이라는 표현을 사용해서 나온 거구요. 이것도 마치 학습을 통해서 조금씩 조금씩 방향을 틀어서 목표에 일치시키기 때문에 directional한 느낌 때문에 사용하는 표현이구요.
The alignment problem이 뭔지 알아야 번역이 정확한지 아닌지 알겠죠. 첫번째 현재까지 우리는 ai에게 직접적으로 목표를 정해줄 방법이 없습니다. 다 간접적인 방식으로 ai가 우리가 원하는 행동을 하도록 훈련 학습을 할 뿐이죠. 두번째 우리는 ai가 가진 목표를 알 수가 없습니다. 얘가 가진 목표를 보여준 행동을 통해서 추론만 가능합니다. 매일 모이를 주던 손이 다음날 목을 비틀어 버릴지 아닐지 알 수 없다는 말이죠. 즉 ai에 대해서 궁극적인 통제권이 인간에게는 없습니다. 현재까지는 ai가 가진 아젠다가 우리가 원하는 것과 일치하기만을 바랄뿐이죠. 그래서 정렬문제라고 부르는 거죠.