Una de las obsesiones de Apple es la seguridad de sus usuarios. Todos sabemos lo mucho que se preocupa la compañía en la privacidad de sus clientes, algo sagrado para Apple. Aunque para ello tenga que enfrentarse al gobierno de los EE.UU., incluso a la CIA. «Los datos de mis usuarios no se tocan», es su lema.
Y ahora se ha centrado en la seguridad de sus usuarios menores de edad. Hará de «Gran Hermano» vigilando las imágenes que pasen por sus servidores, tanto al enviar mensajes como las fotos guardadas en iCloud, para detectar fotografías que contengan material de abuso sexual infantil. Bravo.
Los de Cupertino acaban de anunciar esta semana una serie de medidas que va poner en marcha con la voluntad de proteger a los usuarios menores de edad del iPhone, iPad y Mac. Son unas nuevas funciones de seguridad de las comunicaciones en Mensajes, detección mejorada del contenido del Material de Abuso Sexual Infantil (CSAM) en iCloud e información de conocimiento actualizada para Siri y Search.
Es decir, que piensa examinar cada foto de los usuarios menores de 13 años que pasen por sus servidores, ya sea en la emisión o recepción de Mensajes, o las almacenadas en iCloud, para detectar aquellas que sean sospechosas de contenido pornográfico infantil. Una vez localizada automáticamente la imagen sospechosa, se reportará para ser verificada por una persona. También habrá controles en las búsquedas y en Siri.
Fotos adjuntas en Mensajes
Apple explica que cuando un menor que está en una Familia iCloud recibe o intenta enviar un mensaje con fotos con contenido sexual, el crío verá un mensaje de advertencia. La imagen se desdibujará y la aplicación Mensajes mostrará una advertencia diciendo que la imagen «puede ser sensible». Si el niño toca «Ver foto», verá un mensaje emergente que le informa por qué la imagen se considera sensible.
Si el menor insiste en ver la foto, su padre desde iCloud Family recibirá una notificación «para asegurarse de que es correcto ese visionado». La ventana emergente también incluirá un enlace rápido para recibir ayuda adicional.
En el caso de que el crío intente enviar una imagen que es calificada de sexual, verá una advertencia similar. Apple dice que el menor será advertido antes de que se envíe la foto y que los padres pueden recibir un mensaje si el niño decide enviarlo. Este control se realizará en aquellas cuentas ID de Apple que pertenezcan a niños menores de 13 años.
Fotos en iCloud
Así procesará Apple las fotos de un menor de 13 años.
Apple quiere detectar imágenes CSAM (Child Sexual Abuse Material) cuando se almacenen en Fotos de iCloud. La compañía podrá entonces reportar un aviso al Centro Nacional para Niños Desaparecidos y Explotados, una entidad norteamericana que actúa como una agencia de denuncia integral para CSAM y que trabaja en estrecha colaboración con las fuerzas del orden.
Si el sistema localiza una posible imagen CSAM, la reporta para que sea verificada por una persona real, antes de tomar cualquier medida. Una vez confirmada, Apple deshabilitará la cuenta del usuario y enviará un informe al Centro Nacional para Niños Desaparecidos y Explotados de EE.UU.
Las imágenes que se guardan en el dispositivo y no pasan por los servidores de iCloud, evidentemente no pueden ser controladas por Apple. Todo este sistema de control infantil primero se implantará en EE.UU., y más adelante se irá ampliando al resto de países, a partir de iOS 15, iPadOS 15 y macOS Monterey.
Búsquedas y Siri
Siri estará al tanto de las búsquedas que un usuario pueda hacerle respecto a la temática CSAM. Por ejemplo, los que le pregunten a Siri cómo pueden denunciar CSAM o explotación infantil serán enviados a los recursos sobre dónde y cómo presentar una denuncia, facilitando así una posible acusación.
Personalidades como John Clark, Presidente y CEO del Centro Nacional para Niños Desaparecidos y Explotados, Stephen Balkam, fundador y CEO del Family Online Safety Institute, el ex Fiscal General Eric Holder o el ex Fiscal General Adjunto George Terwilliger han manifestado su apoyo total a dicha iniciativa de Apple.
