[유머] AI그림은 기본베이스 그림 깔고 하는게 아니라니까

[다이바 나나]

노벨 AI를 포함해 얼마전 컴퓨터에 까는거라 올라온 그거나 콜랩으로 돌리는거 전부

stable diffusion 기술이라, 랜덤 시드(노이즈 이미지)를 깔고 생성하는거.....라고 으극...으그그그극...으으으으윽......

윤리적 문제가 있지만, 법적 문제는 없는

존나 애매한 상황인게 노벨AI같은 서비스인게 맞는데

기술 자체의 원리... 유게이들이 댓글에서 말하는거랑 다르다고... 으으으으윽...으그그그그그ㅡㄱ...

[폭신폭신곰돌이]

아 그래서 왜 ㅆㅆ짤 못그려!!

[머스타드]

되요.

[뉴비데수]

윤리적문제만 있는거같지는 않던데...
난 개인적으로 저작권법에도 엿될거같음

[다이바 나나]

'지금은' 각국 정부에서 오히려 권장해주는 추세에 저작권법을 개정해서까지 저런 기업들을 밀어주려고 함(...)

미래기술 AI라면서...

[뉴비데수]

저걸 군사적 기술이나 범죄자 몽타쥬 이런데 쓰면 모를까
굳이 야짤이나 일러스트 제작에 쓸거같지는 않음 ㅋㅋ 단보루 무단수집건도 문제가 될거같고

[🐣RED O]

지금이야 단보루 학습이라고 논란이지만 나중에 ai가 스스로 그린 이미지로 학습한다면 그런 문제는 없어질 듯

[あかねちゃん]

일러스트 라는게 따지고보면 공급자랑 공급이 제한 될 수 밖에 없는데 인공지능으로 지금보다 더 많은 짤들 생성 되면 결국 인공 지능이 그린 걸 인공 지능이 학습하게 되겠지

그럼 학습 속도는 지금보다 더 빨라지는 게 당연한거고

[리엇]

그게 과연 논란이 없어질까...
ai가 스스로 그린 이미지라고 해봐야 어차피 다른 이미지 보고 그린건데.

[🐣RED O]

사람도 그래

[Vault]

결국 사람도 모작부터 시작하지 않나

[리엇]

사람은 모작한 건 모작이라고 공인을 하거나, 아예 숨기고 발표를 안 하잖아. 발표하면 그것대로 문제가 되고.
근데 AI는 그런거 구분없이 결과물을 다 내놓는걸.

[Vault]

그 말 하는게 아니라
사람도 그림을 배울때 처음에는 다른 사람에 그림을 따라 그림으로써 그림을 배운다는거고
그 과정을 ai가 마찬가지로 겪고 있다는거지
만약에 ai가 창작해낸 그림이 근본적으로 모작이라고 주장하는건
같은 과정을 겪은 사람들의 창작도 근본적으로 모작에 불과하다는거지

[루리웹-3220617360]

ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ

[하루마루]

그럼 그 원신짤은 뭔가 주작일수도 있다는소린가?

[하루마루]

아니면 노블ai가 저 알고리즘이 아닌 페이크를 썼다던가

[다이바 나나]

랜덤 시드 대신 자기가 원하는 샘플을 미리 깔고 돌리는 기능이 있거든?
난 그걸로 다른 짤(논란의 원본짤)을 깔고 돌린거라 봄

[뉴비데수]

가져오는 기반데이터가 단보루. 단보루는 무단으로 일러스트를 수집해서 업로드하는 사이트임
그런데서 무단으로 데이터를 가져가서 학습시키니... 파쿠리 일러스트가 나올수밖에 없는거임. 페이크가 아님.

[다이바 나나]

그니까 '첫 논란 제기자'가 주작각 잡은거 아닌가 점쳐봄. 개인적으론.

[하루마루]

근데 내가 넣고 돌렸더니 전혀 비슷한 짤이 안나오더라고..

[루안네츠]

img2img?

[루안네츠]

가중치 낮게 하고 돌리면 나옴 0.1~0.2 정도?

[하루마루]

그것도 해봤는데 그냥 모자이크식으로 뭉개던데 뭘 어떻게해야 그 짤이 나오지

[루안네츠]

난 스테이블 디퓨전이라서 img2img 에서 스탭 20 cfg 7 가중치 0.2로 하니까 원본에서 살짝 변형되서 나오든데...
흠 모자이크 식으로 뭉갠다니 ㄷㄷ

[uspinme]

그 원본 긁어오는게 지금 화제가 된거 아님?

[하루마루]

아 다른 ai로 돌리면 그렇게 되는구나?

[uspinme]

그 참조용 데이터풀을 단부루에서가 가져왔다는데 단부루 자체가 불펌사이트고 이게 다른 사람들 자료 무단으로 가져와 학습용 데이터로 이용한거라 그거 때문에 다들 불타는걸로 아는데

[루안네츠]

그러니까 AI 자체가 원본을 그대로 긁어올 수가 없다는 구조라는 거임

[루안네츠]

ㄴㄴ 베글에선 그게 아니라 아예 원본하고 같은 이미지가 나왔다고 말 나온거라

[다이바 나나]

AI 자체가 원본을 그대로 긁어올 수가 없는 구조
학습이란게 원본 이미지를 폴더에 차곡차곡 저장하는게 아니야. 수학적으로 변해버려. 이미지랑 다른 무언가로

[다이바 나나]

내가 하려는 설명을 저사람이 해줬네
난 설명 생략

[uspinme]

가공해서 사용한다해도 그걸 가져간 거 자체가 문제되는거라고 알고 있는데 뭔가 다른거같은데 가져가서 가공한다고 그거 가져갔단 사실 변하는게 아니잖음

[루안네츠]

전 세계에서는 학습용 데이터는 저작권 면책으로 허용해주고 있음.
그게 무단 전재든, 유료로 사용되는 이미지 세트든간에 (...)

[uspinme]

이래저래 기존 법률상으로는 문제없었는데 상정 이상의 것이 나와버린거네...

[uspinme]

AI를 상정하고 만든 법률이 아니라 이쪽으로 결국 다시 이야기 나오겠다

[루안네츠]

그러니까 그게 못나오는 상황이 정상적이라는 거임
그리고 찾아보니까 이런 기계학습적 오류를 과적합 상태라고 하더라

[다이바 나나]

저게 AI 그림의 원본을 찾아낸게 아니라, 첫 논란 제기자가 저 위 댓글에서 오간 이야기처럼 '원본을 까고 주작한거' 아니냐는게 내 의문

[다이바 나나]

만약 오류가 터진게 맞다면.. 어..어.. 저 위 댓글이 말했어

[Le_Olis]

역시 아는 사람만 개빡치는 상황이 오고말았다

[깊은바다나미]

이 녀석 전기자극 30%로 줄여

[루리웹-8329133273]

하지만 학습할 데이터 부족하면 빼다 박듯 따라 그려버리쥬?

[루안네츠]

전혀 그런 게 아님
학습할 데이터가 없으면 더욱 무작위하게 추론해버림

[모닝모닝글로리]

이렇게 됨

[루리웹-8329133273]

과연 어떻게라도 결과물을 내게 되어있는 알고리즘이 그렇게
곧이곧대로 처리하도록 해놨을까 싶을만큼 마이너 쪽 키워드는 빼박 그림이 나오던데.

[편안한 집]

학습할 데이터가 많은데 그 데이터가 모두 같은 데이터였따면 빼다 박듯 그려버릴듯?

[루안네츠]

AI는 그렇게 작동하는 게 아니라...
학습 데이터가 아무리 적어도 '그게 확실하게 지정된 데이터'라면 AI는 그대로 뽑아내는 거임

[루안네츠]

ㅇㅇ 학습하는 데이터가 많으면 많을 수록 흡사하게 뽑아내지

[역삼동옆역삼역]

이제 랜덤 시드나 기본 베이스 그림이나 개념상 같은 거 아님? 이런 말 하는 사람이 나와 작성자는 혈압이 올라 죽었다고 한다

[Aiqu_F]

엥 그래도 학습 샘플 그대로 뱉는 건 가능하지 않나...?

[루안네츠]

천문학적 확률로는 가능하겠지 ㅋㅋㅋㅋㅋ

[다이바 나나]

레고블럭통에서 블럭을 잔뜩 꺼내 눈감고 조립했을때
이미 존재하는 레고 기성품 제품과 동일한 형상이 나올 확률?

[DolfOurselves]

그거 원숭이가 타자쳐서 셰익스피어 희곡이 나올 확률 그거랑 비슷한건가

[Aiqu_F]

Stable Diffusion 논문 훑어보고 왔는데 학습 샘플 사이즈에 따라서는 일어날 수 있는 일 같은데..? 특히 학습 데이터가 주어진 키워드 당 얼마나 많은 샘플로 이루어졌냐에 따라선 latent space에서 샘플 한 개로 떨어질 수 있을 것 같아. 논문에서 제시하는 사진을 봐도 (특히 마지막의 강아지) 하나의 키워드가 떨어졌을 때 매번 굉장히 다른 무언가를 그린다기보다는 대표적인 녀석 하나에서 약간씩 변형되었다는 느낌을 주잖아?

[Aiqu_F]

학습에 넣은 데이터가 토씨 하나 안 틀리고 그대로 나온다는 이야기가 아니라 위 사진처럼 "살짝 변형된 같은 존재" 로 인지되는 게 나온다는 이야기

[Aiqu_F]

과적합 되면 가능하지... 애초에 그걸 이용해서 압축하는 기술도 나오는 판에

[에마텐]

언제나 아는사람들은 돌아버리는 상황

[햄버거형제]

그냥 그림쟁이를 불안해서 불법이야 고소해서 내릴 수 있음 이러면서 불지리는 중임 기술이나 법적문제 별로 모르고 그냥 베낀거 아님 불법이야 내려야되 반복

[꼬깔콘의요정]

[루리웹-6885585758]

각 나라들이 지금 대놓고 창작자들 찍어누르고

법을 제정하려 하니까 법적 문제가 두루뭉술해진거지

여전히 법적 문제가 없다 장담하긴 어려워보이는데.

특히나 이번처럼 돈받고 서비스 제공하면 더 문제 아닌가.

[루리웹-6885585758]

난 미드저니고 뭐고 AI 일러스트 초기 버전 때도 비슷하게 이거 괜찮나라고 생각해왔음. 그 와중에 이번엔 단부루라는 무작위 이미지 크롭 사이트까지 관여되니까 다른 사람들도 이런 문제점이 더 선명하게 느껴져서 시끄러워진 거겠지

[uspinme]

미드저니도 그림대회 입상하려니깐 문제 생기지 않았나 그게 상업적 이용이나 대회등과 관련이 없을땐 모르겠는데 지금은 커미션 작가들 죽겠단 이야기에서 나온것처럼 상업적 부분까지 건드리는 수준이 되버려서

[동동버섯]

AI 학습에 제공한다고 저작권자가 동의하지 않았는데 상업적 이용이 법적 문제가 아예 없다고 단언할 수 있나?
이건 모르지 않나

[루안네츠]

ㅇㅇ 문제없는 거 맞음...
저작권 면책이야...

[다이바 나나]

법 만드는 새1끼들이 문제없는걸로 하죠? ㄹㅇㅋㅋ 거리고 있으니 문제가 없지 (...)

문제있는건 윤리고

[리엇]

AI 학습에 제공하지 말라고 성명문까지 냈지만 응단부루~ 해버려서 지금 문제가 된 거.

[오락실아재]

일단 실력이 어느정도 되는 사람은 자기그림을 ai에게 습득 시키면 일이 정말 편해질거 같은데 한페이지 그리는데 하루걸리던걸 ai써서 2시간에 끝내도 대단한 성과인데

[페로사]

그니까 지금은 이런 선례들이 없었기 때문에 문제 되는거 아녀? 잘알들이 대답좀 해줘~

[햄버거형제]

법적 문제 없음

[역삼동옆역삼역]

관련된 법이 없기 때문에/다른 법을 적용할 수 있는지 검토하지 않았기 때문에 현재는 문제가 안 된다고 할 수 있음

[GabrielsOboe]

어어... 미안한데 본문 콜렙이나 기타 등등도 뭔 소리인지 모르겠는데 더 쉽게 설명해주세요

[편안한 집]

원래 기술적으로는 모델이 학습 데이터를 "외워버려서" 출력에 생성하는 상황이 안나와야 맞는 말인데 (알고리즘상 데이터를 외워서 똑같이 출력하는 없음)
모델이 워낙 커지고 복잡해지다보니 모델 내부에서 학습 데이터 중 일부를 "외워서" 출력에 사용하는 경우가 종종 나오는 일이 있는 듯 함

사실 외워서 그대로 출력하는게 자유롭게 그리는것보다 훨씬 더 어려운 문제기 때문에 입력 데이터가 그대로 나와서 저작권 이슈가 생길 일이 아예 없어야 맞는데, 모델이 커질수록 나올 수 있는 문제간 한거 같으니까... 앞으로 발전시키면서 좀 더 생각해볼 이슈긴 하긴 할듯

[루안네츠]

ㅇㅇ 나도 자세한 용어는 몰랐는데
왜 저렇게 잘 나오나 찾아보다가 과적합이란 용어가 있는 걸 알았음

[일편단심세이버쨩]

덕분에 이 짤 시작이 왜 이랬는지 이해하게 됨 ㄳ

[또도가마루]

작성자가 마따 AI한테 그림을 그리라고 하는건 한번도 코끼리를 본적 없는 사람에게 코끼리른 그리게 하는 것과 같음 아무런 설명 없이 아무거나 수백장씩 그리고 조금이라도 사람 마음에 들면 그걸 기반으로 또 수배장을 그리는 거임 그렇게 사람 마음에 드는 그림을 찾는게 딥러닝으로 학습시키는거고 조금 빠르게 원하는 방향으로 학습 시키는게 데이터 기반으로 학습 시키는 거임 지금 이게 문제라고 하는데 이건 기술문제가 아니라 관리자 문제임 원작과 똑같이 그리는 수준이면 설정을 조정해야 하는데 그걸 안하고 냅둔거임 그래서 ai가 아니라 돈 독오른 인간이 문제임