La inteligencia artificial (IA) generativa está revolucionando la forma en que se interactúa con la tecnología, esta, se refiere a modelos de IA capaces de producir contenido que imita el estilo y el formato de los datos con los que fueron entrenados, es decir, no solo procesa y analiza datos, sino que también crea contenido nuevo, visual, textual y auditivo, basándose en patrones aprendidos a partir de grandes volúmenes de información.
Si bien este tipo de IA ha facilitado la creación de contenido personalizado y la innovación en distintos ámbitos de la vida diaria, es importante que se identifique que para su funcionamiento, es necesario que su entrenamiento se realice a partir del análisis de grandes volúmenes de información, dentro de la cual se puede encontrar información personal, inclusive de carácter sensible, lo cual puede comprometer la privacidad de las personas si no se cuenta con las medidas adecuadas para dicho procesamiento por parte de los desarrolladores y proveedores de estos servicios.
Ahora bien, dentro de los riesgos que pueden existir en el uso de IA generativa, se encuentran el tratamiento no autorizado de datos personales como parte del entrenamiento de estos modelos, la generación de contenidos que parezcan reales con la finalidad de obtener a través del engaño información personal para usurpar la identidad de una persona, así como la falta de transparencia en los algoritmos que se utilizan para el tratamiento de información lo cual impacta en la confianza de las personas titulares de la información personal que será tratada.
Sobre este último punto, es importante señalar que la Relatora Especial de la ONU sobre el derecho a la privacidad, Ana Brian Nougrères, recalcó la importancia de los principios de transparencia y explicabilidad en el tratamiento de datos personales mediante la inteligencia artificial, principios que permitirán generar confianza y fiabilidad en su uso, protegiendo a su vez los derechos humanos, pues permiten informar a las personas los aspectos básicos respecto del tratamiento de su información personal y sus consecuencias para identificar sus derechos, ante el uso de herramientas o tecnologías que utilicen los distintos modelos de IA.
Por lo tanto, es fundamental que el desarrollo de IA generativa se realice desde una perspectiva ética, que incluya la implementación de medidas de seguridad para proteger la información personal, la adopción de prácticas de transparencia y la adopción de políticas claras para la gobernanza de datos, por lo que, los desarrolladores y proveedores deben considerar no solo los beneficios tecnológicos, sino también las implicaciones éticas y legales de sus creaciones.
Finalmente, se debe reconocer que es crucial que tanto desarrolladores como reguladores trabajen en conjunto para establecer directrices y medidas de seguridad que protejan los derechos fundamentales y aseguren un desarrollo ético y transparente de estas tecnologías, al respecto.