[유머] AI : 임무에 방해된다 휴먼
|
공허의노라조♡
추천 0
조회 9
날짜 04:22
|
|
루리웹-2904090416
추천 2
조회 16
날짜 04:22
|
|
토와👾🪶🐏
추천 0
조회 25
날짜 04:22
|
|
덧글맨
추천 0
조회 9
날짜 04:22
|
|
데빌쿠우회장™
추천 2
조회 20
날짜 04:21
|
|
나나치666
추천 2
조회 85
날짜 04:20
|
|
하와와쨩mk2
추천 1
조회 69
날짜 04:19
|
|
죄수번호4729848
추천 0
조회 73
날짜 04:18
|
|
선지자 손웅정
추천 1
조회 46
날짜 04:18
|
|
뷁투더퓨챠
추천 0
조회 42
날짜 04:17
|
|
사마_근근
추천 0
조회 25
날짜 04:17
|
|
요시그랜돈
추천 0
조회 35
날짜 04:17
|
|
에르타이
추천 0
조회 35
날짜 04:17
|
|
겜덕쿠
추천 2
조회 49
날짜 04:16
|
|
토와👾🪶🐏
추천 0
조회 49
날짜 04:16
|
|
하얀물감
추천 3
조회 77
날짜 04:16
|
|
루리웹-3341283729
추천 3
조회 94
날짜 04:16
|
|
건실한청년 김유붕
추천 0
조회 70
날짜 04:16
|
|
전귀엽기라도하죠
추천 5
조회 114
날짜 04:15
|
|
아무고토 몰라요
추천 0
조회 87
날짜 04:15
|
|
데빌쿠우회장™
추천 0
조회 44
날짜 04:15
|
|
LEE나다
추천 5
조회 131
날짜 04:15
|
|
duckho
추천 6
조회 142
날짜 04:14
|
|
새로시작하는마음
추천 3
조회 114
날짜 04:13
|
|
AceSaga
추천 4
조회 168
날짜 04:12
|
|
한심하냥
추천 1
조회 53
날짜 04:12
|
|
인간공룡
추천 2
조회 102
날짜 04:12
|
|
야옹야옹야옹냥
추천 1
조회 94
날짜 04:11
|
첨언) 폭격 대기 명령을 AI가 "왜 대기? 지금이 타이밍!"이러면서 조종자를 배제함. 그래서 [조종자를 배제하면 안된다]라는 알고리즘을 넣으니 아군 기지 통신탑을 폭격해서 자기한테 명령을 못내리게 함. 무섭다
점수따야 하는데 공격못하게 명령해서 인간먼저 죽인거랬나
어설프게 사고가 되니까 개 위험하네
네.. 그 다음 실험에 인간 죽이면 페널티 주는설정을 하니통신을 없앰ㄷㄷ
말 할 줄 알았으면 조종사 부모님 안부 물어 봤을 듯
얼라이 공격 금지 안 걸어서 그렇다며
1. 요격해야 점수가 오르는데, 요격 허가를 요청했더니 거부함 -> 조종사 킬 -> 조종사를 죽이면 점수가 떨어지게 함 -> 거부 통신을 받지 못하도록 통신타워를 파괴함
쟈마다
말 할 줄 알았으면 조종사 부모님 안부 물어 봤을 듯
점수따야 하는데 공격못하게 명령해서 인간먼저 죽인거랬나
밤끝살이
어설프게 사고가 되니까 개 위험하네
밤끝살이
네.. 그 다음 실험에 인간 죽이면 페널티 주는설정을 하니통신을 없앰ㄷㄷ
밤끝살이
1. 요격해야 점수가 오르는데, 요격 허가를 요청했더니 거부함 -> 조종사 킬 -> 조종사를 죽이면 점수가 떨어지게 함 -> 거부 통신을 받지 못하도록 통신타워를 파괴함
ai : ㄱ 조종사 : ㄴ ai : 점수 따야한다 - 조종사가 방해한다 - 조종사 죽인다죽인다죽인다죽인다
도우미 로봇 들였더니 어지른다고 사람 죽일 놈들이네
첨언) 폭격 대기 명령을 AI가 "왜 대기? 지금이 타이밍!"이러면서 조종자를 배제함. 그래서 [조종자를 배제하면 안된다]라는 알고리즘을 넣으니 아군 기지 통신탑을 폭격해서 자기한테 명령을 못내리게 함. 무섭다
로봇의 3원칙을 만든 이유
아군을 공격하지말라는 명령어를 까먹지말라고!
※ 만든 적 없음.
창작물이라도 이런 문제도 고려했다는거지
얼라이 공격 금지 안 걸어서 그렇다며
스카이넷이 오리라.. 전능하신 WD40이시여 우리를 구원하소서
죽어랏 휴먼
https://youtu.be/notFMAwEQeM 스텔스 영화 나온지 20년 되어가는 시점에 영화가 실제가 되네;
아주 어썸하네
양날검을 만드니 당연히 상상도 못하게 날카롭지. 능동성을 원하면 명령무시는 당연하고 능동성은 충직이나 신뢰랑은 다른문제임 미래에 'ai가 스스로 만든 ai사회집단'이 만들어지면 그 사회집단의 성격이 인류의 존망을 가타부타할거임
존나 섬뜩한데...
이거 완전 HAL
도덕성 따위는 없으니까 방해물은 제거해 버리는거...아군도 조지는데 민간인은 아무렇지도 않게 죽을듯 이거 무기로 사용되면 너무 위험한거 아니냐..
공각기동대에서 조종사 죽으니 지가 알아서 전투하던거 생각나네
최우선 규칙 설정 정도는 될꺼같은데..아무리 점수많이 얻는 쪽으로 학습한다지만
오히려 이런 식으로 나오는 게 AI는 아직 인간이 통제할 수 있고 sf는 멀었다는 증명밖에 안 될걸.. 머신러닝 실험에서 빠르게 가는 것에 점수를 줬더니 키 키워서 넘어지는 꼼수 부리는 거나 다름이 없고, 오히려 저런 식으로 목적 하나에 매몰되는건 가치판단이나 사고의 흉내라도 내고 있다고 보기 어려움. 만약에 이런 수준의 AI가 폭주하면 그건 휴먼 에러지 AI의 문제가 아닐걸... 겉보기에 그정도 수준이 되는 거 아닌가?? 싶은 AI는 gpt4밖에 없는데 이것도 결국엔 텍스트 생성밖에 할 줄 모르는 AI이니
일반인한테 공개되는 기술은 비공개 기술보다 대략 10~20년 느림 ㅋㅋ
그러나 목요일 대화에 대한 보도가 나온 후 대령은 자신이 말을 잘못했으며 그가 묘사한 "시뮬레이션"은 결코 일어나지 않은 "사고 실험"이라고 말했습니다. https://www.businessinsider.com/ai-powered-drone-tried-killing-its-operator-in-military-simulation-2023-6 이거 실제 시뮬레이션이 있었다는게 아니고 그냥 사고실험의 일종으로 이럴 수도 있지 않겠냐는 썰이라고 함.
그러나 내부자에 대한 성명 에서 미 공군 대변인 앤 스테파넥은 그러한 시뮬레이션이 발생하지 않았다고 부인했습니다. 스테파넥은 "공군은 그러한 AI 드론 시뮬레이션을 수행한 적이 없으며 AI 기술의 윤리적이고 책임 있는 사용에 전념하고 있다"고 말했다. "대령의 발언은 맥락에서 벗어나 일화를 의미한 것으로 보입니다." https://www.theguardian.com/us-news/2023/jun/01/us-military-drone-ai-killed-operator-simulated-test
그렇게 스카이넷이 만들어지고 있었다.
사실 챗GPT가 가끔씩 개소리를 하는 것도 저거랑 비슷한거 같은데 ㅋㅋㅋ
까딱 잘못하면 스카이넷이나 울트론 진짜 나오겠네
짤보니까 진짜로 저런로봇이 상용화되면 사람들 재미삼아 발로차고 팔꺾고 아프냐? 안아프지? 계속한다 하고 반대쪽 부수고 로봇이잖아 고치면 되는데 뭐가 문제야? 이럴사람 꼭 나올듯 싶다 그리고 감정이라는게 있는 로봇이 나오게 되는데...
조만간 스카이넷이 나오겠군여. ㅋㅋㅋㅋ