[아이폰] 국경없는기자회, 애플의 AI 알림요약 기능 비판하고 비활성화 요구

[스텔D]

국경없는기자회(RSF)가 애플의 AI 알림 요약기능을 비판하면서 비활성화 할 것을 촉구했습니다.

애플은 iOS18.2 업데이트와 함께 AI 기반의 알림 요약기능을 아이폰15프로 이상의 스마트폰과 아이패드, 맥에서 선보였습니다. 이 기능은 여러 알림을 AI를 통해 짧게 축약해서 보여주는 기능입니다.

그러나 이 기능은 지난 몇주간 문제를 일으켰는데, 특히 뉴스 앱에서는 심각한 오류를 보였습니다. 뉴욕 타임즈의 네타냐후 체포영장 발부 기사는 "네타냐후 체포됨" 으로 요약해버렸고, BBC에서는 그런 보도를 한 적이 없는데도 불구하고 "루이지 맨지오니가 자살했다" 는 축약 알림을 띄웠습니다. BBC는 이 사건에 대해 애플에 항의한 상태입니다.

국경없는기자회의 기술 데스크 책임자 Vincent Berthier는 "AI는 확률과 가능성으로 움직이는데, 뉴스 기사는 그런식으로 주사위를 굴릴 수 없다"며 이 사태를 비판했습니다. 그는 이런식으로 자동화된 요약 기능은 대중에게 가짜 뉴스를 퍼뜨릴 수 있어 매우 위험하다며, 애플이 이 기능을 기본적으로 비활성화 해야 한다고 말했습니다.

이 기능은 현재 iOS 18.2 이상으로 업데이트하면 자동으로 활성화되며, 사용자가 수동으로 꺼 주어야 합니다.

출처 : https://www.macrumors.com/2024/12/19/apple-faces-criticism-new-notification-summaries/

[마릐코즤]

난 또 사람들이 뉴스를 안 읽어서 기자나 신문사의 수익에 영향을 준다는 것인 줄 알았는데, 축약하면서 내용을 바꿔 버리는군요. 요즘 3줄 요약이니 하면서 전체 내용을 읽지 않고 짧은 글로 파악하는 사람들이 늘어가고 있는데 이건 꽤 문제네요. 요약의 정확성이 높아질 때까지 자동으로 켜는 것이 아니라, 반대로 끄고 원하는 사용자만 수동으로 켜서 사용하게 해야 할 것 같네요.

[얼음공룡]

챗지피티 구글 제미나이 다 겪었던 일임.

[뒈두리볶베쉬럴]

저도 챗지피티 플러스 쓰는데 요약 부분은 결과물이 짧을 수 록 검토 합니다..
요약이 글자라서 쉬을거 같지만 의외로 한계가 있어요. 그런데 할루시네이션이나 기억 편집 같은게 다 사람의 특징이라 인공지능 발전을 보면 실수도 사람과 비슷한 실수를 하더군요.

[코스모스창고]

사람 기억 구조를 흉내내다보니 그런 현상 생기는 것 같음..
일정이상 정보 계속 넣으면 오히려 답변 퀄리티가 떨어지는것도, 정보 넣는 과정에서 어떤걸 뺄지 정하는 우선순위가 제대로 안되서,
중요한걸 빼버려서 그런것 같고,

[루리웹-4688145470]

지피티 쓰는데 요약은 안시킴 암만 시켜봐도 요약시키면 의도기 왜곡되는게 눈에 보이더라고요

[특이점온다]

ai가 최고가 되겠다고 하더니 누구나 겪어야하는걸 겪어야됨?ㅋㅋ 챗gpt 쓰지 누가 쓰나

[작년을기다리며]

클라우드기반으로 돌아가서 환각을 엄청나게 줄이며 발전하고있는 LLM이랑
로라를 사용해서 최적화할수있다며 자신하지만 태생의작은 모델의 한계로 환각투성이로 작동하는 애플AI
이 두개를 비교하는 것 자체가 어불성설

[루리웹-8565205305]

님은 댓글 좀 chatgpt 한테 검수받고 좀 다세요

[특이점온다]

애플 ai는 쓰레기 인건 누구나 아는일 ㅋㅋㅋㅋㅋㅋ

[루리웹-8565205305]

님은 아는거 하나도 없잖아요

[특이점온다]

열심히 애플ai 쓰세요 ㅋㅋ 공짜니깐 ㅋ

[작년을기다리며]

온디바이스 AI가 안되는 이유지.
환각을 줄이려면 모델을 키워야되는데
애플의 똥꼬집

[루리웹-8565205305]

누가보면 애플만 똥꼬집을 부리는거마냥 그러네요
온디바이스 ai 아니면 안될거처럼 물어뜯던 인간들이 이제는 똥꼬집 운운

[작년을기다리며]

개인정보 보호핑계대는게 짜치는것
삼성도 되도않는 온디바이스 뻘짓그만하고 AI에 제미나이나 챗gpt 기반을 도입해야함
1년무료방식으로 풀고

[떡갈]

애플뿐만 아니라 다른데서도 시도하는건데 모두다 똥꼬집~ㅋ

[라스트리스]

서버에서 처리하는 방식이 능사는 아님. 온디바이스AI는 온디바이스AI만의 영역이 있음. 주로 저전력으로, 반응성 좋게 빠르게 처리해야하는 기능에선 반드시 온디바이스AI로 작동하는 게 이득임. AI라봐야 챗gpt 딸깍딸깍할 줄 아는걸로 다 아는것처럼 깝치는 놈들이나 그런 소릴 하지.

[타마누님]

반은 맞고 반은 틀리다고 봅니다. 다른 분이 댓글로 달았지만 스마트기기에서는 온디바이스와 서버를 이용한 온라인 ai 방식이 상호보완할 수 있으니까요. 애초 둘중 하나만 사용하는 스마트기기는 없고요.
문제가 되는 기사요약처럼 온디바이스에서 돌리기에 (아직은) 한계가 있으면서도 파급효과가 클 서비스에서는 현행 기준으로 틀린 말은 아니나, 온디바이스 ai 전체를 안된다고 보시는건 비약이 아닐까 합니다. 서비스 종류에 따라 온디아비스로도 충분한 것도 있고, 사용자에게 방식의 선택권을 주는 방법으로 보완 가능하니까요.

[루시오르]

이건 카톡요약에서나 보이는 문젠데