“우리는 사용자의 개인 데이터를 보호하도록 설계된 일련의 제어 기능을 바탕으로 Apple 제품용 앱에 놀라운 기능을 구축할 수 있는 강력한 API를 개발자에게 제공합니다. 전체 디스크 액세스는 백업 앱이 Mac에서 제대로 작동할 수 있도록 이러한 제어 기능을 크게 우회합니다. 일부 개발자는 사용자를 위험에 빠뜨릴 수 있는 방식으로 전체 디스크 액세스를 사용합니다. 이메일에 액세스할 수 없는 사용자를 포함하여 파일, 심지어 이메일 기록 및 완전한 정보까지 포함하여 시스템의 모든 것을 노출합니다. 통신 애플리케이션의 경우 이는 사용자가 통신하는 사람들의 개인 정보도 손상시킬 수 있습니다.
“앞으로 우리는 진정으로 앱에 이 특별한 수준의 액세스 권한을 부여하려는 사용자가 매우 명시적인 사용자 작업을 통해서만 그렇게 할 수 있도록 추가 제어 기능을 도입할 것입니다. 이를 해결하는 것이 중요합니다. AI 에이전트의 능력과 자율성이 점점 더 높아짐에 따라 이 액세스 수준과 관련된 위험은 크게 증가할 것입니다. 우리는 사용자가 이러한 위험을 명확하게 이해하여 정보에 입각한 결정을 내릴 수 있도록 최선을 다하고 있습니다.” 데이터를 제공하기 전에 원인이 있습니다.
이 메모는 제약 없는 AI가 모든 곳의 보안 시스템에 가하는 실제적이고 현재의 위험에 대응하여 Apple이 이 작업을 수행하고 있음을 매우 분명하게 보여줍니다.
사고인가, 디자인인가?
결국, Meta의 Muse가 개인 메시지를 분석했거나 분석하지 않았을 수 있는 모든 거부된 사례에 대해 이제 “악의” AI가 일종의 장난을 치기 위해 “탈출”한 사건이 많이 있습니다.
이러한 사건이 실제로 탈출구가 아니라고 생각하기는 쉽지 않습니까?
