ChatGPT ha despertado muchas conversaciones sobre su regulación. Desde voces en la industria que temen el impacto que pueda tener si se deja crecer sin control, hasta pleitos legales que buscan dejar claro quién posee los derechos de los productos creados con Inteligencia Artificial (AI). Pero ahora Italia se ha convertido en uno de los primeros países en prohibir ChatGPT después de que el GPDP (la organización Garante para la Protección de Datos Personales) ordenara el bloqueo de la herramienta de OpenAI.
La preocupación de las autoridades italianas está en la manera en la que ChatGPT recopila y hace uso de los datos personales de los usuarios. De acuerdo con la GPDP la recolección de información que es usada para entrenar y alimentar los algoritmos de OpenAI es ilícita.
«No se proporciona ninguna información a los usuarios, ni a los interesados cuyos datos han sido recopilados por OpenAI, L.L.C. y procesados a través del servicio de ChatGPT». La GPDP también aseguró, a través del comunicado en el que ordena el bloqueo de la herramienta, que existe «la ausencia de una base jurídica adecuada en relación con la recopilación de datos personales y su tratamiento con fines de formación de los algoritmos subyacentes al funcionamiento de ChatGPT».
Otro punto clave en la decisión de Italia está en la protección de menores de edad. La organización asegura que ChatGPT no cuenta con algún filtro que permita verificar que las personas que utilizan la herramienta tienen más de 13 años. Esto significa que, de manera indirecta, el modelo está recopilando, almacenando y utilizando datos personales de menores de edad.
ChatGPT: cambios o más problemas en Europa
El problema legal más reciente de Chat GPT viene con una investigación por parte de las autoridades italianas. En los próximos 20 días OpenAI debe responder anunciando iniciativas para solucionar los problemas que el GPDP ha señalado. Esto significa que la compañía debe encontrar una manera de justificar sus infracciones, siendo quizás la más importante el uso de datos para alimentar y entrenar su AI. En caso de que no pueda cumplir con lo requerido estará sujeta a sanciones administrativas.
Quizás lo más alarmante para OpenAI es que la decisión de Italia abre la puerta para que otros países de la Unión Europea presenten nuevos bloqueos contra ChatGPT y otras herramientas de Open AI. Una ola de restricciones y preguntas que puede terminar por expandirse a otras regiones, en especial en los Estados Unidos donde ya hay organizaciones realizando preguntas sobre la legitimidad de los productos AI.
El punto central de la conversación, como siempre, está en la manera en la que estos modelos son entrenados. Para los usuarios está la manera en la que la información es recolectada a través de las interacciones con la AI y la manera en la que el manejo de estos datos personales encaja dentro de una jurisdicción. Para los creadores y artistas hoy existe una violación a sus derechos de autor con diferentes modelos que crean piezas que imitan su estilo sin ofrecer créditos o compensación.
Imágenes: Foto de Tara Winstead y montaje ENTER.CO
