시리는 성적 만남을 ‘정기적으로’ 기록하고 애플 계약자들에게 ‘수도 없이’ 사적인 순간을 보낸다
++ 충격적인 내용입니다.
애플 시리가 잘 작동하는지 점검하기 위해 이를 평가하는 사람에게 시리를 통해 녹음된 음성 정보가 전송되는데 당사자는 그 사실을 모르기 때문에 그 전송된 음성 정보에는 매우 사적인 내용이 포함될 수도 있다는 것입니다.
예를 들어 의사와 환자 간 사적인 대화, 비즈니스 거래, 성행위 등이 기록된 수많은 사례가 있으며, 이러한 녹음에는 위치, 연락처 세부 정보 및 앱 데이터를 보여주는 사용자 데이터가 수반된다고 한다.
여기서 말하는 wake word는 우리가 말하는 ‘실리아’가 아니라 특정 단어에 대한 시리의 반응을 점검하기 위해 특정 단어를 말하면 그 내용을 녹음하는 것으로 보이는데 충격적입니다.
애플은 이러한 점검을 위해 사용되는 음성 정보가 매우 작은 비율이며 엄격한 보안 속에서 통제 관리된다고 하지만 어쨌든 사실 관계는 부정하지 않았다고 하니 정말 무서운 사실입니다.
버나드 허먼 ⇒ 앤스플래시
애플의 Siri AI비서가 이용자가 모르는 사이에 녹음된 성적 만남, 부끄러운 의료 정보, 마약 거래 등 사적인 순간을 말로 인간의 “등급”에 보내어 평가할 것이라고 내부 고발자가 밝혔다.
가디언과 통화한 익명의 계약자에 따르면 애플의 Siri음성 어시스턴트의 녹음은 세계의 인간 계약자에게 제공하고 그들은 대응의 질과 활성화가 의도적이었는지 여부에 기초하여 AI을 평가한다.
그들은 우발적 액티베ー션은 특히 Apple Watch사용자에게 Apple이 허용하고 있는 것보다는 훨씬 잦다며 이 회사가 문제를 인식하기를 원합니다.
”의사와 환자 사이에서 사적인 협의, 비즈니스 거래, 일견 범죄적인 거래, 성적인 만남 등이 수록된 예는 수없이 있습니다.
이들 녹음에는 위치나 연락처 세부, 앱 데이터를 나타내는 유저 데이터가 첨부되어 있습니다”와 내부 고발자는 밝혔습니다.
Apple은 AI의 문서에 Siri의 훈련에 대한 인간적 관여에 대해서 명시적으로 언급하고 있지 않지만 그 실천에 대해서 물었을 때,”Siri리퀘스트의 일부는 Siri와 디크테ー션을 개선하기 위해서 분석된다”라고 인정했다회사는 이는 AI의 하루의 활성화 전체의 1%미만에 해당하고 녹음 시간은 “통상 몇초밖에 안 될 “이라고 했습니다시리실리는 섹스의 만남을 기록하고 애플 계약자에게 ‘슬픈’ 개인적인 순간을 보내는 애플의 시리 AI 어시스턴트는 성적 만남, 부끄러운 의료 정보, 마약 거래 등 사용자 지식 없이 녹음된 기타 개인적인 순간들을 평가를 위해 인간의 ‘연인’에게 음성으로 전송한다.
내부고발자는 revealed.www.rt.com#애플 #시리 #SIRI #개인정보 #AI #whistleblower