딥페이크란 인공지능을 응용하여 얼굴의 특정 부위를
영화의 CG처리처럼 합성한 영상편집물을 말한다.
아무튼 이 딥페이크 기술을 사용하면 영화 속 배우의 얼굴을 자기 마음대로 조작이 가능하다.
심지어 자신의 얼굴을 원하는 인물의 얼굴로 모방 할 수가 있다.
여기까지 봤을 땐 딥페이크 기술은 단순히 심심풀이 조크용으로 밖에 보이지 않는다.
하지만 이 딥페이크 기술을 악의적인 목적으로 악용을 한다면 한 유명인을 여장남자로 만들 수가 있고,
유게이들은 3D엔 관심 없겠지만 포1르노에서도 딥페이스 기술을 사용하여 연예인의 얼굴을 모방한 영상이 많다고 한다.
한국인 피해자는 무려 25%라는 기사도 있다.
(https://news.joins.com/article/23599737)
가짜 뉴스도 가능하여 잘못 된 정보를 언론화 시킬 수 있고
(사진과 관계 없음)
어느 한 국가의 수장이 되어 말 한마디로 여론 조작을 할 수가 있다.
2020년 사이버 보안 공격 위험 이슈 중 하나인 딥페이스 공격
현재까지는 방어 방법이 거의 불가능하여,
해커들은 이 기술에 많은 투자를 할 것으로 예상한다고 한다.
앞으로 이 기술이 많은 보편화가 되어 방송국 또는 스트리머, 유튜버들이 자주 사용할 듯 하다.
혹시 모른다. 당신이 보고 있는 영상 대부분이 딥페이스 기술을 사용할 수도...
물론 긍정적으로 바라본다면, 유게이들은 자신의 얼굴을 애니메이션화 시켜 자딸을 할 수도 있다. ^^
김정은 얼굴 게이 ㅍㄹㄴ에 합성해서 북한에 뿌려버리면 재미있을 듯.
그러고 보니 옛날 유게... 그러니까 문재인 정부 초반쯤 일인데 베스트에 보니까 이런게 베스트 갔더라고. 무슨 딥페이크 기술 목소리판이던데 문재인,손석희 그리고 박근혜의 목소리가 소름돋게 똑같더라. 대통령의 특유의 발음,손서컥의 지적이 있어보이는 목소리 그리고 박근혜의 영혼이 없는 목소리등 그야말로 똑같아서 진짜 소름이 돋았음. 농담아니라 이런 기술들이 단순히 합필 개그가 아닌 나쁜곳에 쓰이면 큰일남. 육군 미사일 사령부에 문재인 대통령 목소리를 위조한 가짜 명령이 내려오면 난리날껄?
컴퓨터 조금 할 줄 알면은 깃허브에 오픈소스 다운 받고, 그래픽카드만 좋으면 가능하답니다. ㄷㄷ
뭐 미사일 사령부가 바보가 아닌 이상은 평시에는 청와대에 연락하고 물어보겠지만. 평시가 아닌 전시면 바로 쏠지 모르겠네.
나중엔 이 사진이나 영상은 가공되지 않았다는 개런티를 해주는 일종의 씰이나 코드같은게 규격화되지 않을까…
아 줟같다는 거구나 줟잡는다는줄 미안해 내잘못이다
명령체계는 안전장치나 확인단계가 있으니까. 더 무서운건 대선때 조작영상 뿌려서 선거결과가 기존 추세가 뒤집어진 후에 진실이 밝혀지면? 말그대로 대혼란일거
딥페이크 Kpop 여자 아이돌 포르.노 엄청 많음 지금은 딸감 생긴거 좋지 않겠냐고 하겠지만 그 파급력이 주변사람이나 자신에게 오면 결코 좋다고만은 하지 못할것
정치적으로 아주 크게 악용될 여지가 너무 많음.... 벌레새끼들은 지금 남은 노무현 대통령 이미지로도 온갖 모독을 하는데 저게 보편화되면 얼마나 더 ㅈ같은 짓을 하겠음
ㅇㅂ가 옛날 전성기였다면 저거 노무현 대통령이랑 합성했을 듯.
[삭제된 댓글의 댓글입니다.]
레닌동지
그러고 보니 옛날 유게... 그러니까 문재인 정부 초반쯤 일인데 베스트에 보니까 이런게 베스트 갔더라고. 무슨 딥페이크 기술 목소리판이던데 문재인,손석희 그리고 박근혜의 목소리가 소름돋게 똑같더라. 대통령의 특유의 발음,손서컥의 지적이 있어보이는 목소리 그리고 박근혜의 영혼이 없는 목소리등 그야말로 똑같아서 진짜 소름이 돋았음. 농담아니라 이런 기술들이 단순히 합필 개그가 아닌 나쁜곳에 쓰이면 큰일남. 육군 미사일 사령부에 문재인 대통령 목소리를 위조한 가짜 명령이 내려오면 난리날껄?
똥개 연탄이
뭐 미사일 사령부가 바보가 아닌 이상은 평시에는 청와대에 연락하고 물어보겠지만. 평시가 아닌 전시면 바로 쏠지 모르겠네.
레닌동지
오바마 영상 https://www.youtube.com/watch?v=krOXHbPcTrs 그런데 이거 만든 감독이라고 나오는 사람 키앤필에 나오는 그 흑인개그맨 같은데..?
똥개 연탄이
명령체계는 안전장치나 확인단계가 있으니까. 더 무서운건 대선때 조작영상 뿌려서 선거결과가 기존 추세가 뒤집어진 후에 진실이 밝혀지면? 말그대로 대혼란일거
레닌동지
유튜브 보다 언론사, 방송국 놈들이 더 위험할 것 같다. 진짜로 목정성을 갖고, 작정하고 쓸 것 같아서...
삭제된 댓글입니다.
프레드리카 어빙
ㄹㅇ 딥페이크 포1르노는 아무것도 아니라 생각될정도로 심각한경우가 많아
삭제된 댓글입니다.
모즈구스
같은데가 아니라 걍 진짜 위험해.. 이미 트럼프 발언 속아서 몇달전에 한번 당한적이 있음..
삭제된 댓글입니다.
COCO.J
ㅇㅇ 이게 제일 무서운거임 안했는데 했다고 페이크자료 나도는거야 해명하면 어찌어찌 진정되겠지만 반대는 큰일이지 지금 영상자료는 가장 신뢰도있는 증거가 되는데 녹화된 자료도 믿을수 없다? 범죄 저지른게 영상으로 찍혀있어도 확증으로 인정 안될수도 있는거임
김정은 얼굴 게이 ㅍㄹㄴ에 합성해서 북한에 뿌려버리면 재미있을 듯.
그거 고ㅂ추 자랑...
그러면 또 미사일 쏴서 엄한 군인들만 비상이야 탈북애들이 허구한날 풍선찌라시 보내서 비상걸린거 생각하면 치가떨림
ㅇㅂ가 옛날 전성기였다면 저거 노무현 대통령이랑 합성했을 듯.
2129
커뮤나 나무위키 같은데는 가짜 정보 밭임. 나무위키만 봐도 정치가 아닌 단순 오덕이나 커뮤에 관한 내용을 보면 제대로된 정보 없음. 해당 커뮤에 원한을 가진 놈이 목숨걸로 문서편집해서 가짜 비판들 넣었음. 가짜 비판이 많이 없는 문서는 루리웹 유게 비판일거다. 나머지는 뭐... 믿지 못하겠음.
가짜비판이 아니라 확대해석, 일반화지 멀쩡한 놈만 있는 커뮤니티가 어딧어
논문 같은 거나 출처있는 기술은 좀 볼만한데 그 외는 뭐...
키라로이드 한국화로 정희로이드와 그네로이드도 나오겠네
일단 그래도 아직은 일반인이 간단하게 건드릴수있는 영역의 기술은 아니지않음? 진짜 문제는 일반인이 이미지만 올리고 버튼한번만 누르면 완성되는 수준까지 가면 문제가 매우 심각해질듯
컴퓨터 조금 할 줄 알면은 깃허브에 오픈소스 다운 받고, 그래픽카드만 좋으면 가능하답니다. ㄷㄷ
예전에 포토샵 초창기에 연예인 얼굴 합성하고 그래서 문제가 된적도 있음.. 근데 결국 시들하더라.. 딥페이크는 어떻게 될지 모르겠음
내가 말하는건 waifu 2x 처럼 이미지만 올리고 버튼만 누르면 짠 하고 완성되는 수준말하는거 그정도는 아직 불가능하잖아 일반인이 마음에드는 얼굴 사진찍힌거 아무거나 올리고 아무 야동넣고 버튼 누르면 자동으로 딥페이크 야동 하나 만들어지는 시점이되면 심각해질거라는 얘기
이게 비유적으로 표현하자면 인간이 수작업으로 10년 걸리면 어떻게 할 수 있는 작업을 컴퓨터로 1일만에 하는 종류의 기술이라서 막는다고 막아지는 종류의 문제가 아님. 난이도가 높아서 어려운게 아니라는 얘기지.
58372229
아직은 상당히 어색하던데 전문가가 각 잡고 만드는거 아니면
58372229
번거로움이 더 줄어들고 완성도가 더욱 완벽해지는 시점을 말하는거지 난
58372229
고작 사진 몇개수준으론 절대 뚝딱 안 만들어져 뭔. 만들더라도 보자마자 합성티가나는데.
태글
언젠가는 누가한테 돈주고 의뢰하지않고 컴맹이 간단한 프로그램 받아서 뚝딱 만들수있는 그런날도 오지않겠어? 난 그얘기하는건데
이제 저런거 검증하는 기술도 같이 나오는거지..
막짤은 알렉 볼드윈이랑 트럼프 인줄 알았음 snl 에서 분장하고 나오거든.
기술은 훌륭하나 악용될 가능성이 너무나도 큰 위험한 기술력임
난 이 기술이 뭔 이득이 있을지 모르겠음 긍정적인건 그저 심심풀이로 좋다 뿐이고 나쁜면이 너무 많아
ㅍㄹㄴ 사업에서 대박을 치지..
올 초 CES 에서 나온 기술. 아직 개발 중이고 연말에 정식 버전 나온다는데, 이거는 어떤 방법으로 신박하게 악용할지 기대 될 지경이다야.
사이버펑크 장르에서 많이 나오는 조립식 창1녀의 포1르노버전 쌉가능?
발표 되자마자 그거 부터 나오더라. 나는 저거 보고 원하는 타입 매일 보내주면 대박 나겠다 싶던데.
자기가 좋아하는 영화에 좋아하는 배우 붙여서 볼수도 있겠다ㅋㅋㅋ 유튜브 가상캐스팅 컨텐츠 폭발하겠는데
나중엔 이 사진이나 영상은 가공되지 않았다는 개런티를 해주는 일종의 씰이나 코드같은게 규격화되지 않을까…
범죄 저지른 유명인이나 정치인들이 악용하는 그림이 그려진다
조던 필이 오바마 얼굴로 말하는 영상 보니까 잘 잡으면 진짜 못 알아볼 정도긴 하더라
이거 잡는것도 인공지능으로 대응한다드라
시진핑 얼굴 합성해서 일인독재와 공산독재 셀프비판하는 영상 만들어서 뿌리면 어떻게 될지 궁금함.
민주주의 국가면 몰라 중국 같은 독재국가가 그러면 코로 딤섬 먹일 놈들이 끝까지 추적할껄???
그러면 대놓고 중국인에게 살해당할껄
ai로 목소리 패턴 학습시켜서 따라하는거도 엄청 똑같더만 두개 기술 융합하면 사람 하나 복제네 완전 ㄷㄷ
유튜브 빠져있는 틀딱들은 하나같이 다 믿을거 같다
딥페이크 Kpop 여자 아이돌 포르.노 엄청 많음 지금은 딸감 생긴거 좋지 않겠냐고 하겠지만 그 파급력이 주변사람이나 자신에게 오면 결코 좋다고만은 하지 못할것
항상 역지사지를 해보자
농담이 아니라 내가 좋아하는 아이돌이 딥페이크 야동에 출현하면 줟같을거 같음.
니 정보나 사진이 범죄에 악용되면 미쳐버릴걸 그렇게 함부로 말하는 게 아님
똥개 연탄이
아 줟같다는 거구나 줟잡는다는줄 미안해 내잘못이다
어우.. 위험하네요
반대로 연예인 동영상 유출되면 딥페이크라고 우기면 됨.
삭제된 댓글입니다.
루리웹-509757766
사실 정부도 강력한 기술(딥페이크인지 추적하는 AI)을 하면 좋을텐데 문제는 정부들은 중국 그 자체, 미국의 프리즘 그리고 대한민국의 카카오톡 검열이나 정권이 맨날 바뀌어도 논란이 되는 유해사이트 차단등으로 어떤 나라 국민들이던 정부의 개입에 불쾌함. 이런 전례가 있으니 국민들에게는 딥페이크 간파할 초지능 AI를 가져도 딥페이크 추적하는게 아니라 여당이 자기 지지율을 지키거나 혹은 국민을 감시한다고 의심할껄? 더구나 딥페이크 가짜뉴스 공격받은 집권 정부가 우월한 기술력으로 파악해도 집권 정부가 가짜뉴스라고 거짓말을 하는지, 아니면 집권 정부가 가짜뉴스 피해자인지 알 수가 없음. 어쩌면 집권정부가 우월한 기술의 빽으로 진짜 비리를 폭로하는 뉴스를 가짜라고 규정 할 수 있고.
기술적 특이점 및 범죄에 대한 조항도 신설하고 강화되어야 하는 부분이지만 인터넷 자체가 열린 공간이라 잡기도 힘들겠네 퍼지는건 순식간이니
정치적으로 아주 크게 악용될 여지가 너무 많음.... 벌레새끼들은 지금 남은 노무현 대통령 이미지로도 온갖 모독을 하는데 저게 보편화되면 얼마나 더 ㅈ같은 짓을 하겠음
양날의 칼 같은 기술임..
스파이더맨 파 프럼홈처럼 무고한 사람 누명씌우는것도 가능한게 가장 큰 문제지.
이쪽으로 관심있으면 이번에 kaggle에 올라온 deepfake detection challenge 도전해봐
좋은 정보 고마웡
근데 진짜 악용의 소지가 무궁무진한데 한걸 안했다고 할수도 있고 안한걸 했다고 할수도 있고.. 일반인 영상은 모두 믿지 못하고 방송국 영상만 믿기 싫어도 믿어야 하는 시대가 올 수도 있겠네
저기술있으면 유튜브에 얼짱만 있겠네
폰헙 보면 진짜 딸치고 만들어서 그런가 퀄이 미쳐날뜀.. 이젠 CCTV 영상도 걸러야될 시대인거 같다
뇌파 인증의 시대로 가자
习近平
좋을리가...
중국에서 잘쓸고같은데 정부에서도
현재 우리가 사진을 포샵이라고 잘 안 믿으려고 하는 것 처럼 나중엔 동영상도 훼이크라고 잘 안 믿으려고 하겠지. 어차피 사람은 적응의 동물이고, 20년 전 포샵에 사람들이 경악한거랑 같다고 봄.
실베스터 스탤론이 t-1000으로 나오는 터미네이터 영화 봤는데 지구2 온 줄
큰일 한번 터지긴 하겠네요..
지금은 이 기술을 모르는 사람이 많겠지만, 한번 터지면 커다란 논란이 될 거 같음
지금까지는 "합성짤이네" 라고 댓글달던걸 "합성영상이네"이러면서 댓글을 달 시대가 왔구만..
ㄹㅇㅋㅋㅋ
과연 우리가 합성영상이네라고 바로 말할 수 있을런지 모를정도로 기술이 다듬어지고 발전한다면 함부로 합성이라고 단정 못 지을듯... 지금도 정교하게 합성되어서 ㄷㄷ
딥페이크를 막을 방법은 더 많은 딥페이크를 양산해서 뿌리는 수 밖에 없겠네. 거의 비슷하지만 조금씩 내용이 다른 동영상을 수백수천가지로 만들어 뿌려서 문제 영상 자체의 신뢰도를 대폭 떨구는 수 밖에.
지금의 합성짤 처럼요..
국내아이돌들 피해자 엄청 많던데
보이스피싱을 넘어 딥페이크피싱이 나오것네요. 모두들 조심하기로~
조커 뭐얔 ㅋㅋㅋㅋ!
존나 못만드네. 요새는 야동쟁이들도 훨씬 진짜같이 만들더만
이제 성문확인하는것도 필수가 되겠네