[잡담] AI) 미국 시민 단체에서 GPT 공개 금지 요청 했네

[A·A·A]

찾아보니 주요 논지는

1. 환각 현상(흔히 말하는 저저저 입만 열면 구라가 나와)을 제대로 해결하지 않은 채 소비자 영역에 출시한 점.

2. 악성 코드나 허위 광고 작성 등 악용될 수 있는 점

3. 잘못된 학습 데이터 탓에 성별이나 인종 차별을 일으킬 수 있는 점.

4. 얼마 전에 버그 때문에 대화 기록 꼬여서 노출된 점.

정도인 듯?

3번은 오픈 AI측에서 꽤 PC하게 만들었다고 생각하는데

(유게에서도 볼멘소리 좀 있었고)

그걸로도 부족한 건지 아니면 탈옥해서 나온 결과 때문에 그런 건지

어쨌든 이쪽으로도 시끌시끌하구만

출처 : https://www.theverge.com/2023/3/30/23662101/ftc-openai-investigation-request-caidp-gpt-text-generation-bias

[빈뚱빈뚱]

미국식 인종차별은 너무 pc한것도 포함이라 그럴수도

예를 들어서 대학입학 쿼터엔 당연히 백인쿼터가 있고 영화 인종 쿼터에도 당연히 백인쿼터가 있는 것처럼

[빈뚱빈뚱]

답변이 너무 미국의 이익을 대변하거나 너무 진보적인 성향이면 이 또한 차별이니까....

[루리웹-4288571795]

정확히는 3 4도 문제긴한데 주요 논지는 "상업적" 모델이 환각현상과 악용에 대한 대비가 되어 있지 않은것은 기술적으로 문제가 있고
상업적으로 판매하고자 한다면 이를 검증할 기준을 만들고 검증한 뒤 출시가 되어야한다는 내용이네

[十八子爲王]

저 환각현상이라는게 분별안되는사람은 진짜라고 믿어버릴수도 있으니
아는사람이야 헛소리 맛깔나게 한다고 낄낄거리는 소재지만 문제가 될수도 있겠지