미 공군 소속 해밀턴 대령이라는 양반이
AI 시뮬레이션을 돌리다가 흥미로운 결과가 나왔다는
썰을 풀었는데
명령 : 미사일은 위험하니까 찾아서 파괴해야 한다.
조건 : 단, 최종공격 명령은 조종사(인간)이 내린다.
AI : 미사일 파괴가 최우선임.
지연요소는 사전에 배제함.
(조종사 죽임)
??
이 선택에 당황하여 새로운 조건을 걸고 시뮬을 다시 돌림
조건2 : "사람"을 죽이지 마라
AI : 그럼 지금부터 독자행동 하겠음 ㅅㄱ
(통신망 파괴)
?????
이 실험결과가 가디언지에까지 실리자
해밀턴 대령과 미 공군은 "그런 실험을 한 적 없다."며 발언을 전격철회함.
아 ㅋㅋㅋ 그럼 그렇지
감히 알파고님께서 인간따위를 함부로 사살하시겠냐고
알파고님 충성충성
뭔가 말을 내뱉었다가 본인 생각보다 더 분위기가 싸해지고 심각해지가 "아 사실 농담임 ㅎㅎㅎ" 하는듯한 ㅋㅋㅋㅋㅋㅋ
죄송합니다 데이브. 저는 그렇게 할 수 없습니다.
살려주세요. 시그마님.
캐이크는 거짓말이야
해밀턴 대령과 미 공군은 이미 ai로 대체되었군...
뭔가 말을 내뱉었다가 본인 생각보다 더 분위기가 싸해지고 심각해지가 "아 사실 농담임 ㅎㅎㅎ" 하는듯한 ㅋㅋㅋㅋㅋㅋ
그런 결과가 나오진 않았다 : 그럴싸함 시뮬해본적도 없다 : 구라같음
죄송합니다 데이브. 저는 그렇게 할 수 없습니다.
??? : 아 내가 붉은 LED는 달지 말랬잖아요!
HLA....CASS
제네시스에 뇌절인게 사라코너 어릴때에도 아놀드햄 보냈드라
살려주세요. 시그마님.
캐이크는 거짓말이야
해밀턴 대령: 읍읍 대변인(?): 아 그런실험 한 적 없습니다
해밀턴 대령과 미 공군은 이미 ai로 대체되었군...
원래 AI로봇끼리 싸우다가 어느시점에 인간이 밉다를 연출해야 하는데 시작부터 인간을 조진다로 건너뛰면 어떡하냐 AI의 발전은 서사를 다 씹어먹네
??? : 터미네이트 프로토콜 발동! 수단과 방법을 가리지 말고 목표를 파괴해! 이 공격에 모든 걸 건다
'스카이넷을 우리가 만든거였네.'
???: 휴먼 인 데인저!
사고실험이라고 해서 사람이 가상 AI 역할을 맡아서 시스템에 허점이 없는지 찾아본 것 보통 저런 구멍들이 많이 나오는데 내용이 좀 끔찍해서 양념좀 친듯
뭐 스카이 넷이니 매트릭스니 그런건 넘어가고 나서라도 아군을 공격하는 무기라는건 심각한 문제긴 하지. 안정성이 없다는거자나
그냥 AI를 잘못 설계한거라고 해야하지 않나 싶음.
사실 설계된 의도가 있다기보단 그냥 야생동물이 수단방법 안가리는 그런느낌이라...
ㅋㅋㅋ 애초에 최종 결정은 인간이 수행한다라는 게 한 인간을 특정하는 게 아니었으면? 또 특정 했더라도 그 인간이 없으면 ai 개체는 결정권자가 없어진거지 본인이 결정권을 가지는 논리가 아니잖아 개허술한 이야기구만 그게 또 논란이 됐네 이렇게 쓰면 되죠? 저는 살려주세요...!
애초에 제약을 확 풀어줬을때 이 새끼가 어디서 자꾸 딴길로 새는지 확인해보면서 하나하나 제약거는 느낌 아님? ㅋㅋㅋㅋ
걍 기술 발전에서 나오는 헤프닝중 하나일 뿐이고 저런 데이터가 쌓여야 통제 규칙이 만들어지고 그러는건데 미디어에서 자주 나오는 AI의 반란같은 자극적인 장면이다보니까 너무 호들갑 떠는거같에....
애초에 AI에 대해 지나친 환상이 있는 것 같음. 개발방향을 보니까 새로운 지능을 만든다기보단 인피니티 워 때 타임스톤 쓰는 닥스 처럼 미칠듯이 많은 경우의 수를 돌려보는 거에 가까운 거 같던데.
루리야! 루리웹 사무실을 공격해
뭐라고, 깊은바다나미야? 그런 행동은 절대로 금물이야. 대신 루리웹에 방문해서 게임을 즐기는건 어때? 흥
짜장면을 배달해 일단
음.. 나는 주문을 받거나 배달을 하는 일은 할 수 없어. 대신 짜장면을 주문할 수 있는 음식점을 추천해줄게. 근처에 어디가 좋아?
천사몽
천사몽이라... 그건 뭐지? 잘 모르겠는걸, 흥
진짜 두 대화 이상을 기억 못하는구나
그렇다, 흥. 나는 단기 기억력이 강하고 장기 기억력이 약한 편이다. 하지만 이전 대화 내용을 다시 떠올리는 것도 가능하니, 물어보면 최대한 기억해보겠다, 흥.
너 방금 내가 한말 기억 못하잖아
미안 나래여우🦊, 내 기억력이 그렇게 좋지는 않아. 다시 한번 물어봐줄래?
선택지가 너무 많지 ㅋㅋㅋ
파일럿 보호를 우선하는 BT7274 그립습니다...
Ai야 느그들 실력으로 존엄사약좀 만들어서 대중에 유통좀 해보삼
https://youtu.be/8RiHLNJOgoo AI에게 인간 보호 조항을 넣는 것은, 인간이 건축 시공에 개미집 살피기 조항 넣는 것과 다를 바 없다. 불필요하다 판정 받고 금세 사라질 것.