La empresa, por su parte, ha explicado que esto solo se hará con usuarios en Estados Unidos y hace parte de una normatividad que es impuesta por el Gobierno. Otras plataformas como Google, Twitter y Facebook también hacen cruce de imágenes que compartimos con sus servicios en busca de este tipo de material, incluso si es por mensaje privado. Pero no deja de llamar la atención que mientras hace unos pocos años Apple se enfrentaba al FBI para no desbloquear o enviar información cifrada de un usuario sospechoso de un crimen, hoy sea la misma empresa quien busque entregarlos.

Por supuesto, hay soluciones. Si no queremos que nuestras imágenes sean escaneadas por el sistema de inteligencia artificial, simplemente no usamos los servicios de Apple. Más allá de esto, hay otras preocupaciones. Dos académicos de la universidad de Princeton aseguran que pasaron años trabajando en un sistema similar al que propone Apple y que su conclusión es que este tipo de tecnologías son peligrosas (puedes leer sus argumentos aquí); los dos autores volvieron a repetir sus preocupaciones en una editorial en The Washington Post.

También te puede interesar: Apple escanearán imágenes en búsqueda de abuso infantil.

El sistema creado por ellos tenía una tarea muy similar, escanear imágenes CSAM en sistemas encriptados de punto a punto, explica el portal Engadget. Sin embargo, sin importar sus esfuerzos por cerrar la tecnología a solo un tipo de imágenes, los investigadores encontraron que es muy fácil convertirla en herramientas de espionaje y censura. “El sistema puede cambiar fácilmente a una nueva base de datos para comparar las imágenes y cambiar completamente el propósito; el usuario no tendría ni idea que está pasando”, explican en su editorial.

Los académicos también aseguran que el sistema de Apple es superior al creado por ellos; sin embargo, llama la atención que la empresa aún no ha contestado a preguntas que en su investigación encontraron y que no han logrado solucionar, y posiblemente tampoco la compañía.

Apple es una empresa que asegura que pone por delante la importancia de la privacidad de sus clientes. Pero con este tipo de herramientas pone en peligro su credibilidad y los usuarios que usan sus dispositivos gracias a esta promesa ahora tienen más opciones.

Imagen: gstudioimagen en Freepik y Mateusz (Vía Pexels)

Además, será responsabilidad de las empresas denunciar a las entidades cuando se detecte actividad ilegal y de no hacerlo podrían pagar una multa de hasta $555.000 dólares australianos. El Acto de seguridad online 2020 busca disminuir el ciberacoso y contenidos que promueven la violencia infantil, de género y racial.

Te recomendamos leer: Google paga a los medios de Australia por aparecer en las búsquedas.

El acto, además, explica en detalle cuáles son los contenidos que entrarán en la norma. Por supuesto, lo que más preocupa es exigir que los contenidos cifrados o encriptados también sean analizados. Esto significa que se está creando una puerta trasera o que el contenido no está protegido como afirman las empresas. WhatsApp, por ejemplo, no podría seguir basando sus campañas en este tipo de promesas.

También te puede interesar: Los iPhone escanearán imágenes en búsqueda de abuso infantil.

Esto levanta las mismas preocupaciones que la propuesta hecha por Apple la semana pasada en la que un sistema de inteligencia artificial escanearía las imágenes de iCloud y iMessage en búsqueda de abuso sexual infantil en que organizaciones de protección de la privacidad aseguraron que se estaba era implementado un sistema de vigilancia. La empresa aseguró que las imágenes serían escaneadas exclusivamente por máquinas que las cruzaría con una base de datos. Solo aquellas identificadas como peligrosas serían vistas por un equipo humano que tomaría la decisión final.

Por supuesto, buscar prevenir el bullying cibernético, la violencia y abuso sexual infantil es importante; sin embargo, llama la atención como desde lo cibernético la nueva propuesta es romper los esquemas de seguridad que las empresas han desarrollado por años. Si estas deciden aceptar estarían abriendo un precedente para que otros países hagan lo mismo y esto sería un peligroso avance a la vigilancia abierta de los ciudadanos digitales.

Imagen: Rawpixel en Freepik.

Google también se ha comprometido en su buscador y en general en Internet a denunciar contenidos sensibles. Por ejemplo, todo lo relacionado con abuso y explotación infantil. Por eso, la compañía anunció que para ayudar a las organizaciones y empresas a escanear, reconocer y reportar el abuso infantil creó un sistema que funciona con inteligencia artificial (AI, por sus siglas en inglés).

Un programa de Google reforzado con AI para las ONG

El sistema usa redes neuronales profundas para el procesamiento de imágenes, para ayudarles a las personas que están constantemente revisando Internet a denunciar este tipo de contenido. Para esto, las revisa y organiza de mayor a menor probabilidad de que contengan este tipo de contenido.

Google además afirmó que el sistema estará disponible para organizaciones no gubernamentales (ONG) y aliados de la compalñía que pueden usar sus APIS (paquetes de datos de Google para crear aplicaciones y programas). La empresa espera que con esto, la revisión de sitios web y de redes sociales se pueda hacer más rápido y así evitar que los niños que son explotados o abusados vuelvan a serlo en un futuro.

“Esta iniciativa mejorará el tiempo de revisión y procesamiento de contenidos donde haya abuso infantil. Hemos visto, de primera mano, que el sistema puede ayudar a las personas que están revisando Internet a tomar acciones en un 700% más de contenido”, escribió Nikola Todorovic, gerente de producto de Google en el comunicado.

Google trabaja desde el 2006 con organizaciones y el gobierno en herramientas para evitar que imágenes de niños siendo abusados y explotados sean publicadas y divulgadas en Internet.

Para usar el API de seguridad de contenido de Google en su organización, solo es necesario llenar los datos de este formulario.

Imagen: mohamed_hassan (Vía Pixabay).