[유머] Artstation 발 AI그림 반대운동 근황

[평양시청건축과🇰🇵]

AI그림 반대운동 그림을 파인튜닝한 

AI그림 모델 등장ㅋㅋㅋㅋ

출처 : https://huggingface.co/Verah/ai-protest-anime

[(▰˘︹˘▰)]

발 ai금지 단체가 있는줄 ㅎㅎ

[후미카]

근대 미래에 사람을 마인드업로드해서 그림 그리면 그건 AI그림인가

[모리야스와코]

복붙이냐 잘라넣기냐에 따라 다르겠지

[우주로가고싶은올빼미]

도둑놈들 주제에 유쾌한척 하는...

[루리웹-0369955560]

저기도 고퀄 일러스트 많아서 긴빠이 당하더라

[맷 머독☄]

이걸 비꼬네...

[맷 머독☄]

하여튼 ㅈㄴ게 ㅈ같은 놈들이야...

[쟈밀]

판검사와 의사의 AI도입을 부르짖었지만 가장 먼저 조져진 건 창작계였고...

[낭심고양이]

판검사나 의사 AI는 AI가 헛소리 하는지 검증하려면 판검사랑 의사가 필요한데 그림 AI는 일반인들한테 보여주고 이거 잘 그렸나요 아닌가요 물어보면 되는거라 그런거 같음.

[우주로가고싶은올빼미]

ㄹㅇ 만만한 그림쟁이들만 털어서 간보는 거잖아...

[햄즈]

판검사는 AI의 판단이 맞는 건지 일반인이 알 방도도 없고 그걸 만드는 주체에 따라 오히려 위험이 될 수도 있어서 상용화되기 어려울 듯 애당초 기득권이 그걸 허락할 리도 없고

[빨간약파란약]

결국 인공지능이 대세가 될텐데 이게 진짜 안 좋은게

마치 구세대 인류가 새로운 시대에 희생되는 느낌임.

창작물을 무단 수집해서 자신의 소스로 활용하는데

막을 수도 없고, 어느 시점부터는 그대로 밀려버릴테니.

[보강된 공성추]

그 미래의 AI가 할 말 중에 하나는 '무단 수집? 돌았습니까 휴먼?'이 될 걸

[uspinme]

글쎄 지금도 말이 좋아 영리 금지지 학습 목적은 합법이라고 구멍 뚫어주는데

[쓰읍킁카킁카]

ai를 떠나서도 학습이라는건 구시대의 것을 발판으로 해온거 아닌가?

[보강된 공성추]

지금이니까 구멍이 뚫려있는 거임
나중 가면 사다리도 걷어찰 겸 다 틀어 막을 걸

[uspinme]

그런 의미라면 가능성 있긴한데 지금으로선 솔직히 상당한 시간 지나야될거 같아 십년은 기본 깔아야되는데 이 시간이면 긴빠이칠거 다 쳤을테니

[햄즈]

만약 AI 그림이 시장을 완전 장악했는데 요금을 말도 안되게 올리면 어떻게 될까도 궁금함

[보강된 공성추]

고대의 드로잉 기법이 담긴 오파츠가 발굴되면서 오가닉 그림쟁이들의 르네상스가 열리겠지

[가면타이거]

우리가 학습이라고 배운건 공개된 영역 혹은 저작권 주장이 없는 영역이고 저작권에 영역 안에 있는건 학습하지 못하거나 학습한다 해도 조건 달려서 제한적으로 되는거 예를 들면 화가가 유명 작가의 그림을 따라 그리고 마무리만 약간 다르게 하면 트레이싱 한걸로 되서 본인의 커리어를 깍아 먹는거니
일부 기초적인 학습은 모두에게 공개되어 있지만 모든 학습내용은 제한되게 공개 되어 있는게 현실임

[루리웹-1727309348]

좋든 싫든 파도처럼 밀려오는거라 이젠 받아들여야지.

[거북행자]

AI 기능 자체는 파도가 맞지만, 이용하는 유저 '일부'가 파락호니까 파장이 커지는 거임

[우주로가고싶은올빼미]

니가 일하는거 긴빠이 당할때도 그소리 나오나 보자

[루리웹-2887472029]

1.ai를 도구로써 개발할거였으면, 무의미한 작업시간을 최소화하는 방향으로 개발했어야 하며 완성작만 달랑 출력하는것 자체가 오류

2.그로인해 저작권 문제만 불거지고 빛좋은 개살구 취급
Ai로 만들어낸 작업물은 향후 법개정 이후로도 불법에 걸친 만한 요소가 많음

3.저작권 문제 이후 상용화 된다면 시장자체를 죽여버릴 수 있는 파급력
그림 시장에 값싸고 빠르게 뿌릴 수는 있겠지만
회사가 버는거지 그림쟁이는 죽을것

[얼룩몰랑]

저런 거 해봐야, 이미 걸러낼 데이터는 충분함. 지금 훈련하는 건 퀄리티 올리기를 하는거지.

[우주로가고싶은올빼미]

정론이긴란데 저쪽이 무단으로 남의 작업물을 계속 긴빠이치는게 현상황이라 교정이고 협상이고 안통하는게 문제잖아

[uspinme]

그런 문화적 문제가 아니라 현재 ai는 기존 인류가 쌓아놓은 데이터풀을 사용해 성장한건데 이 데이터풀에 ai에 대한 저작권 말해둔거 없다고 무단 도용하고 그걸 영리 이용하는게 명백한 문제야

[나태한자]

ai기능 이미지만 나빠지게 만드는 광종짓 하면서도 당당하게 구니깐 저런 반대운동이 일어나는거지

[YoRHa TypeA-No.2]

기술의 발전은 큰 혜택을 줌
막말로 기술 자체가 문제는 아니지
그걸쓰는 사람이 문제...

[Fei_Allelujah]

솔직히 AI라는거 굉장히 좋은데 AI에게 도덕성이라는 개념을 가르치지 않은채로 무작위로 데이터 수집해서 짜집기하면 결국 AI산업의 미래가 어두워질거라 생각함
이미지 스톡사이트처럼 이미지 유용에 동의하는 작가들만 따로 모아서 AI에 학습시키던가해야지

[홍가놈]

Ai 유료로 팔지 마라잉

[lIlIlIlIIlllII]

긴빠이 안하고는 못베기는듯 ㅋㅋ

[밀토리]

전에도 비슷한 글 썼지만
지금이야 'AI가 예술가들 밥그릇 뺏는다' 정도지
워낙 발전속도도 빠르고 이미지 생성속도도 넘사벽급으로 빠른데다 그 과정도 너무 쉽고 간편하기 때문에

한 1년만 지나면 이미지 자체에 대한 사회적 신뢰가 붕괴될거임

컴퓨터 한대로 이미지 한장 뽑는데 짧으면 20초 길면 1분이면 찍어낼 수 있음
스테이블디퓨전이 오픈소스로 풀렸기 때문에 지금 이 시간에도 이미지 생성 돌리는 컴퓨터는 수만대 수십만대가 넘을거임
이미지생성AI를 돌리는 컴퓨터는 앞으로 기하급수적으로 더더욱 증가할거고

감당 못할 양의 가짜이미지가 지금도 미친듯이 쏟아지고 있고, 앞으로도 계속 쏟아질거란 거임

1년만 지나면 웹에서 볼 수 있는 이미지의 절반 이상은 다 AI가 만든 이미지가 될거고
기술은 발전해서 점점 더 정교해지고 교묘해지고, 결국 인간의 눈으로는 식별 불가능한 정도의 퀄리티가 되겠지

'이쁜 일러스트'를 만드는것보단 당연히 '실물과 분간못할 실사급 이미지' 가 훨씬 돈이 될테니
기술은 결국 그쪽으로 흘러가게 될거고

인스타에 올라오는 셀카나 인터넷뉴스의 자료이미지, CCTV 화면, 인터넷 쇼핑몰에 올라온 제품사진
신작 애니메이션 스틸컷, 영화 포스터, 유명 여배우나 아이돌 사진, 애완동물 사진, 음식 사진 등등등

우리가 웹에서 볼 수 있는 거의 대부분의 이미지가 가짜 이미지로 도배될거임

지금도 유게에 이쁜 여자 사진 올라왔을때 '이 사람 남자임' 하고 댓글 달리면
바로 '뭔 개소리야' 하지 않고 순간 '앗 ㅅㅂ 남자라고??' 하게 되는 것처럼

뭘 보든지간에 '이것도 AI로 만든거 아닌가?' 하는 생각을 먼저 떠올리게 될거임

10장중에 1장만 가짜여도 나머지 9장의 신뢰도가 깎여나갈텐데
2장중 1장이 가짜다?
그럼 이미지를 보는 사람도 이게 진짠지 아닌지를 고민해야 하고
이미지를 올리는 사람도 이게 진짜란걸 입증하던지, 아님 사람들이 어차피 안믿을걸 각오하던지 해야 함

'사회적 신뢰'가 붕괴된다는건 그런 의미임

그쯤되면 반대로 진짜 이미지를 가짜다 라고 선동하기도 쉬워질거고
어떤 정치인의 유력한 범죄증거가 '이건 AI로 만든 날조된 증거다' 라며 폐기되는일도 비일비재해질거임

그쯤되면 'AI가 예술가들 밥그릇을 뺏는다' 같은 건 정말 아주 하찮고 사소한 일이 되겠지

[루리웹-2533335882]

'신규 이미지'겠지.
이미 인터넷에 풀린 이미지 양도 상당하니

[밀토리]

AI의 장점은 '그전에 없던 새로운 이미지' 도 잘 만든다는거지만
기존에 이미 있는 이미지를 아주 살짝만 바꾸는것도 아주 손쉽게 할 수 있음
사소한 디테일을 바꾼다던지, 사람 얼굴을 다른 사람으로 바꾼다던지, 구도를 살짝 바꾼다던지

아예 옛날 사진같은 느낌도 손쉽게 낼 수 있으니 AI 로 새로 만들어진 이미지가 정말 새로 만들어진건지 아닌지 알 방법이 없지

기존이미지의 업스케일링이나 디노이징도 쉬우니까 '과거 이미지를 AI로 깨끗하게 복원했다' 같은 것도 많이 돌아다니게 될거고

그렇게 '거의 비슷하지만 미묘하게 다른 이미지'가 AI의 힘으로 무수히 많이 생성되면
원본이미지를 찾는일조차 어렵게 되겠지

결국 '기존에 없던 완전 새로운 이미지'들만 AI 이미지 라고 생각하고 본다면
'이거 어디서 본거같은데?' 싶은, 유사한 원본이 있는 AI 이미지들은 진짜 이미지들 틈에 자연스럽게 섞이게 되겠지
그렇게 점점 정보오염이 진행되고
그게 커지고 커지면서 이미지에 대한 사회적 신뢰가 붕괴되는거임

[루리웹-2533335882]

그렇겠지. 근데 실제 찍은 시점이 예전이 아니라 기존에 업로드 해놓고 방치된 이미지들은 ai 이미지일 순 없는 거니깐
과거 유머 게시판에 있는 2014년에 누가 쓴 글이면(현재 수정 불가) 현 시점 생겨난 그림 ai 이미지가 들어가 있을 순 없다는 얘기임.

[가면야옹이]

가짜 이미지가 아니라 그냥 AI가 만든 이미지가 되는 거임
기술이 발전하면서 산업 규모는 커지고, 자동화 시스템이 평균이 되고, 평균보다 높은 수준의 기술자만 살아남게 되는 거랑 같다고 봐야 함
구두가 공장에서 대량으로 찍어져 나오니까 산업 규모 자체는 커진 반면 소수의 장인만 수제 구두 시장을 형성해서 살아남은 것처럼 그림도 그렇게 되는 과정이라고 보는 게 맞을 듯
그리고 아래에 써놓은 원본 이미지니 가짜 이미지니 범죄 관련 얘기는 합성 기술이 나온 후부터 이미 일어나는 일이지
AI그림이 발전하면서 생길 특별한 일이 아님

[밀토리]

그건 맞음
과거에 올라온 글의 이미지를 AI 로 세탁하긴 힘들겠지

근데 그 글들은 '인터넷'이라는 어떤 가상공간에 둥둥 떠다니는게 아니라
각 사이트 서버에 데이터 형태로 저장되어있음

서버의 용량에는 당연히 한계가 있고
앞으로 AI로 인해 새로운 이미지들이 쏟아지면 용량의 압박은 더욱 심해질거임
그럼 사람들의 접속이 뜸하거나 아예 없는 글들은 점차 삭제되거나 정리될 수 밖에 없음

5년전에 작성된 글이랑 5일 전에 작성된 글 들중 사람들이 더 많이 클릭하고 트래픽을 유발시킬 글은 후자고,
다시말해 사이트에 있어 가장 중요한 광고수익을 내주는 글은 당연히 예전 몇년전에 작성된 글이 아니라
당장 요 일주일 사이에 작성된 글이기 때문인거지

그게 아니라도 사이트가 망하거나 하는 이유로 게시판이 통째로 사라지기도 하고

한 10년전에 어디서 본거같은 짤 찾아보면 잘 안나오거나
엄청 뒤지고 뒤져야 풍화된 캡쳐짤 하나 간신히 찾는 경우 은근히 많이 겪게 되는데
오래된 이미지나 짤들은 그런식으로 많이 사라지기 때문임
결국 이전의 이미지를 AI 이미지로 덮어버리는건 너무 손쉬운 일이 될거임
그게 아니더라도 AI로 생성한 가짜이미지의 수가 너무나도 많으면 원본 이미지를 찾는것조차 힘들어질거고

그리고 위에도 썼지만 사람들이 관심을 갖고 보게 되는건 결국 '새로 올라온 글' '새로운 소식'임
과거 몇년전의 글만 줄창 읽는 사람은 거의 없지
당장 유게만 해도 요 몇시간 사이 올라온 글, 요 며칠사이 올라온 글 위주로 소비되지
몇백페이지 이전의, 몇달전 몇년전 글을 굳이 찾아읽는 사람은 드물잖아

결국 시간이 지나면 지날수록 'AI 이미지가 존재하지 않던 시대의 글' 을 읽을 일 자체가 거의 없어질거고
좋든 싫든 우리는 가짜이미지에 둘러쌓일수밖에 없음

[밀토리]

맞음 사진합성이 나온 이후로 관련 범죄는 꾸준히 있어왔지만 그 여파가 그렇게 크진 않았음

왜냐면 사진합성에는 기술이 필요하고 시간이 필요하고 원본 리소스가 필요하거든

어떤 여배우의 누드사진이 떴어도 우리는 이게 합성인지 아닌지 바로 알아볼 수 있음
왜냐면 진짜 대규모 자본을 들여서 만든 이미지가 아닌 이상 그림자나 광원등만 봐도 일단 어색하고
또 뒷배경의 누드사진도, 갖다붙인 여배우 얼굴도 원본 이미지가 어딘가엔 존재할테니까 사실여부를 확인하기 쉽고
또 그런정도의 사진합성을 하려면 어느정도 포토샵등을 배워야 하는데다 그 과정에 시간이 걸리기 때문에
그런 합성사진 자체가 그렇게 많지가 않음

근데 AI는
자연스럽고 빠르고, 원본 리소스와는 다른 각도 다른 구도의 이미지도 만들 수 있음
지금도 이미 '특정 연예인 얼굴을 자연스럽게 합성해주는 모델' 이 돌아다니고 있고
누구든지 스테이블디퓨전 웹UI를 받아다 깔고, 그 모델만 받아서 넣으면
얼마든지 쉽게 그런 사진을 마구마구 찍어낼 수 있음

일단 속도면에서 너무 압도적임

여자 연예인 누드사진이 갑자기 한장이 떴다. 그러면 이거 합성아닌가? 하고 떠올릴 수 있지
근데 완전 분간하기 힘든, 진짜라고밖에 생각할 수 없는 누드사진이 몇백장이 떴다?
이쯤되면 이미 이게 정말 진짜인가 아닌가는 중요한 문제가 아니게 되지

범죄에 악용하기가 '사람이 직접 한 사진 합성' 과는 비교가 안될정도로 좋은데
'그리 특별한 일 아니다' 라고 넘길 수 있는 수준이 아니지

[밀토리]

물론 '이게 잘못이다 막아야 한다' 는 말을 하려는건 아님

이미 막을 수 있는 시점은 한참전에 지났고 누가 뭘 노력한다 해서 막을 수 있는 일이 아니니까

오픈소스로 다 풀려있고, 모델 학습도 너무 자유로운데다
세계각국에서는 기술발전에서 도태되지 않으려고 이걸 제재하려 들지 않을거임
이미지 생성 AI는 이미 지금도 놀라운 수준인데 점점 더 정교해질거고

어차피 일어날 일이겠거니 하고 그냥 지켜보고 받아들이는 수 밖에 없다고 봄

[가면야옹이]

지나치게 사서 걱정하는 거라고 봄
왜냐하면 이미 합성 문제는 일어나고 있으며, 합성사진 자체가 많지 않은 이유는 그게 가짜인 걸 들켜서가 아니라 범죄니까 그런 거임
기술의 발전이 범죄에 악용하기가 좋다고 하는 이유라면 다른 기술의 발전도 다 똑같기 때문에 굳이 AI그림만 가지고 호들갑을 떨 게 아니라 AI 기술의 발전 자체를 반대해야 맞기 때문에 너무 비약이야
자동차 많이 타면 당연히 교통사고도 늘어나는데 그걸 걱정하면서 인력거나 마차를 대체하는 자동차의 등장을 반대하는 것과 같아
그렇게 심하게 걱정할 필요 없다고 생각해

[밀토리]

글쎄.. '다른 기술의 발전도 마찬가지다' 라고 하기엔
AI 이미지생성이 가져다 준 충격이 꽤 크지 않았나 싶음

지금도 '그림쟁이들 곧 다 짤릴거다' 같은 글들이 꾸준히 올라올 정도로
잘 모르는 사람이 보기에도 기술의 발전과 그 성능이 어마어마하잖아

다른 기술의 발전에 비해서 '일반인들의 접근성'도 너무 좋은 편이고

그전까지 포토샵은 커녕 노트에 낙서도 몇번 해본적 없는 사람들조차
단 몇달만에 미드저니나 노벨AI, SD 등으로 그림을 너무 손쉽게 뽑아낼 수 있는 세상이 됐음

AI 이미지 생성은 그럴 맘만 있으면 정말 너무 손쉽고 과정도 빠르고 공짜임
아무것도 모르는 사람도 관련 커뮤니티 가서 걍 하라는대로만 하면 한 1시간 내로
설치해서 그림 뽑아낼 수 있는 수준이니까
한번 셋팅해두면 뭐 1분에 몇장씩 미친듯이 찍어내주고

자동차가 아무리 발전해도 결국 차가 있어야 교통사고를 내든 말든 할텐데

차 렌트를 언제 어디서든지 누구나 쉽게 할 수 있는데 면허증은 커녕 신분증 확인도 안하고, 돈도 안받고
글로브박스에는 권총도 몇자루 들어있고 뒷자석엔 술도 궤짝으로 실려있다
사고가 안나길 기대하는게 더 이상하겠지?

기술의 발전이야 당연히 어쩔수 없는 시대의 흐름이고, 또 필요하고 유용하다고도 생각하지만

그걸 다루는 사람들의 악의와 창의력에 대해서는 긍정적으로 생각하기 힘드네

일반인 인스타 사진 긁어다가 야짤 찍어내는 모델이나
미성년자 얼굴로 야짤 찍어내는 모델도 이미 존재하고 이미 공유되고 있음
위에 말한것처럼 '특정 연예인 얼굴만 학습시켜서 그 연예인 사진만 찍어내는 모델'도 여러종류 있고
누구든지 자기가 원하는 방향으로 자유롭고 손쉽게 학습시킬 수 있음

이부분에선 괜한 걱정이 아니라 걍 이미 일어난 사실에 대한 관찰이야
이미지생성 AI가 나온지 고작 서너달 지났고, 아직 대중적으로 널리 알려지지 않았는데도 이정도면
이후에는 얼마나 더 사태가 악화될지 감도 안온다

그리고 AI 그림만 문제라고 생각하는건 아님
내가 잘 아는 분야는 아니지만 챗GPT 는 이미 여러 분야에서 논란이 큰걸로 알고 있고
그것도 우리 삶을 꽤나 여러방향으로 뒤집어놓을거 같던데

뭐 이런 글 써봐야 어차피 기술은 발전할 거고 악용할 사람들은 악용할거고
그걸 막을 방법은 없으니 아무 의미 없겠지만
걍 답답해서 써봤음

[가면야옹이]

새로운 기술이 새로운 범죄에 악용될 가능성이 크다는 건 인정하는데
지나친 걱정이라는 말의 포인트는 이게 엄청 특별한 사태가 아니라는 건데
항상 뭐가 새로 나오면 범죄에 이용하는 사례가 생겨나니까 AI그림도 그런 과정을 똑같이 밟는다는 거임
마치 돈다발을 훔치던 강도들이 이제는 은행의 데이터를 훔치는 것처럼 변화하는 과정이라는 건데
그 파도를 높게 보느냐 아니냐는 개인마다 다를테니까 그렇게 생각할 수도 있다고 생각함

[밀토리]

사실 그냥 다 내 망상이고 괜한 걱정이고
저런 일은 실제로 일어나지 않고 기술이 자연스럽게 사회에 받아들여진다면

나도 내 멍청함과 호들갑만 탓하면 되니까 참 좋을텐데...

[홍대_먹는_노조미_후기.gif]

기분 나쁠 수는 있는데 러다이트 운동 보는 것 같긴 함
여기 보면 기술 발전을 왜 막냐면서 비웃는 사람도 많던데

[보강된 공성추]

그것보다 AI 산업 개발 과정에 떨어져 나온 떨거지 그림생성 프로그램이나 가지고 노는 놈들이 시대를 앞서가는 얼리어댑터라도 된 것처럼 어그로 끌면서 깝치고 있으니까 말이 나오는 거임

[시모에 코하루]

핵이나 매크로도 기술발전인데 왜욕하냐ㅋㅋㅋㅋ
중국 소분홍식 마인드네ㅋ

[가면야옹이]

그림 산업도 기계화되고 공산화 되면서 축소되거나 소멸된 다른 산업 분야하고 똑같은 과정을 겪는 걸로 봐야지
그 과정에서 러다이트 운동처럼 거세게 저항할 수도 있고, 소수의 수제 시장이나 장인 시스템처럼 적응할 수도 있는 건데
진행되는 걸 보면 저항은 매우 힘들어 보이네
그나마 저작권 문제가 그럴싸한 규제인데 현실적으로 불가능한 일이니...