Apple verificará iCloud en busca de imágenes de abuso infantil

Apple Inc dijo este jueves que implementará un sistema que verifica las fotos en iPhones en los Estados Unidos para buscar coincidencias con imágenes conocidas de abuso sexual infantil antes de que se carguen en sus servicios de almacenamiento de iCloud.

Si se detectan suficientes cargas de imágenes de abuso infantil, Apple iniciará una revisión humana e informará al usuario a los funcionarios encargados de hacer cumplir la ley, dijo la compañía. Apple dijo que el sistema está diseñado para reducir los falsos positivos a uno en un billón.

Con el nuevo sistema, Apple está tratando de abordar dos imperativos: las solicitudes de las fuerzas del orden para ayudar a detener el abuso sexual infantil, y las prácticas de privacidad y seguridad que la compañía ha convertido en un principio fundamental de su marca, tal y como reportó Reuters.

Apple ahora se ha unido a la mayoría de los otros proveedores de tecnología importantes, incluidos Google de Alphabet Inc., Facebook Inc. y Microsoft Corp, para comparar imágenes con una base de datos de imágenes conocidas de abuso sexual infantil.

"Con tanta gente que usa los productos de Apple, estas nuevas medidas de seguridad tienen el potencial de salvar vidas para los niños que están siendo atraídos en línea y cuyas horribles imágenes están circulando en material de abuso sexual infantil", John Clark, director ejecutivo del Centro Nacional para Desaparecidos y Explotados Niños, dijo en un comunicado. "La realidad es que la privacidad y la protección infantil pueden coexistir".

Así es como funciona el sistema de Apple. Los funcionarios encargados de hacer cumplir la ley mantienen una base de datos de imágenes conocidas de abuso sexual infantil y traducen esas imágenes en "hashes", códigos numéricos que identifican positivamente la imagen pero que no pueden usarse para reconstruirlas.

Apple ha hecho su propia implementación de esa base de datos utilizando una tecnología llamada "NeuralHash" que está diseñada para capturar imágenes editadas pero similares a las originales. Esa base de datos se almacenará en iPhones.

Cuando un usuario carga una imagen en el servicio de almacenamiento iCloud de Apple, el iPhone creará un hash de la imagen que se cargará y la comparará con la base de datos.

Las fotos almacenadas solo en el teléfono no se verifican, dijo Apple, y la revisión humana antes de informar una cuenta a la policía tiene como objetivo garantizar que las coincidencias sean genuinas antes de suspender una cuenta.

Apple dijo que los usuarios que sientan que su cuenta fue suspendida indebidamente pueden apelar para que se restablezca.

El Financial Times informó anteriormente sobre algunos aspectos del programa.

Un aspecto clave del sistema que lo distingue de otras compañías de tecnología es que Apple verifica las fotos almacenadas en los teléfonos antes de que se carguen, en lugar de verificar las fotos después de que llegan a los servidores de la compañía.

En Twitter, algunos expertos en privacidad y seguridad expresaron su preocupación de que el sistema podría eventualmente expandirse para escanear teléfonos de manera más general en busca de contenido prohibido o discurso político.

"Independientemente de los planes a largo plazo de Apple, han enviado una señal muy clara. En su opinión (muy influyente), es seguro construir sistemas que escaneen los teléfonos de los usuarios en busca de contenido prohibido", dijo Matthew Green, investigador de seguridad de Johns Hopkins University, escribió en respuesta a los reporteros anteriores.

"No importa si tienen razón o no en ese punto. Esto romperá la presa; los gobiernos se lo exigirán a todos".