DRET A SABER: ALGORISMES TRANSPARENTS
La jornada cuenta con una intervención clave titulada: «Algoritmos Transparentes: ¿Cómo abrir los algoritmos públicos?», a cargo del reconocido Enrique A. Sánchez Pérez, catedrático de Matemática Aplicada en la Universitat Politècnica de València.
La participación del profesor Sánchez Pérez es de gran relevancia, dado su profundo conocimiento en el ámbito de las matemáticas aplicadas y su experiencia en el análisis y diseño de algoritmos. Su ponencia abordará la importancia de abrir los algoritmos utilizados en la gestión pública para garantizar transparencia, confianza ciudadana y equidad en la toma de decisiones automatizadas.
Este espacio ofrecerá una visión técnica y práctica sobre cómo desentrañar el funcionamiento de los algoritmos públicos, promoviendo una gestión más accesible y democrática en la era de la inteligencia artificial. Una oportunidad imprescindible para reflexionar sobre cómo la transparencia puede transformar el uso de estas herramientas en beneficio de la sociedad.
19.00 Algorismes transparents: Com obrir els algorismes públics?
• Enrique A. Sánchez Pérez, catedrà tic de Matemà tica Aplicada, Universitat Politècnica de València.
Organizado por ACICOM (Asociación CiudadanÃa y Comunicación), miembro de la Coalición Proacceso, esta jornada tiene como objetivo abordar la necesidad de garantizar la transparencia en los algoritmos. Desde 2010, ACICOM ha promovido actividades en defensa del derecho a saber, en colaboración con cátedras universitarias y la Dirección General de Transparencia y Participación de la Generalitat.
En la actualidad, los algoritmos, esas herramientas que supuestamente operan de manera automática y neutral, influyen cada vez más en nuestras vidas, desde la información que recibimos hasta decisiones importantes como la concesión de créditos. Sin embargo, su funcionamiento es frecuentemente opaco, lo que genera dudas sobre su imparcialidad y posibles sesgos.
El Derecho a Saber y la Transparencia AlgorÃtmica
El derecho a saber es un pilar fundamental de cualquier democracia, estrechamente vinculado a la libertad de información. Este derecho permite a los ciudadanos acceder a información pública para comprender y evaluar decisiones que afectan sus vidas. En un contexto dominado por la inteligencia artificial y la tecnologÃa, este derecho se extiende a exigir transparencia en el uso de algoritmos.
Los algoritmos, sistemas que procesan datos y toman decisiones, condicionan aspectos de nuestra vida cotidiana: desde las redes sociales hasta los diagnósticos médicos. Sin embargo, su falta de transparencia genera riesgos de discriminación, inequidad y perpetuación de sesgos.
La transparencia algorÃtmica consiste en hacer públicos los datos, modelos y procesos detrás de estos sistemas, para que puedan ser evaluados por expertos, ciudadanos y la sociedad civil. Este principio es clave para promover un gobierno abierto, donde las decisiones basadas en algoritmos sean justas, democráticas y accesibles para su revisión.
Beneficios de la Transparencia AlgorÃtmica
- Mayor confianza pública: La claridad en los procesos algorÃtmicos aumenta la confianza de los ciudadanos.
- Detección y corrección de sesgos: La transparencia permite identificar y mitigar desigualdades en los algoritmos.
- Rendición de cuentas: Las instituciones que utilizan algoritmos son más responsables al someterse a escrutinio público.
- Impulso a la innovación: Fomenta la colaboración para desarrollar algoritmos más equitativos.
DesafÃos y Perspectivas
Aunque deseable, la transparencia algorÃtmica enfrenta retos:
- Complejidad técnica: Los algoritmos son difÃciles de explicar en términos sencillos.
- Propiedad intelectual: Las empresas podrÃan resistirse a divulgar detalles por razones de competencia.
- Privacidad: Es necesario equilibrar la transparencia con la protección de datos personales.
A pesar de estos desafÃos, es crucial que gobiernos, empresas y sociedad civil trabajen conjuntamente para desarrollar marcos regulatorios que aseguren la transparencia sin comprometer otros valores esenciales.
Ejemplos de Algoritmos en la Vida Cotidiana
- Redes sociales: Determinan qué contenido vemos en plataformas como Instagram o TikTok.
- Motores de búsqueda: Clasifican los resultados más relevantes para el usuario.
- Comercio electrónico: Personalizan recomendaciones en Amazon, AliExpress o eBay.
- Diagnósticos médicos: Ayudan a identificar enfermedades mediante imágenes.
- VehÃculos autónomos: Toman decisiones en tiempo real en automóviles inteligentes.
La jornada del 18 de noviembre de 2024 es un espacio para reflexionar sobre cómo garantizar que estos sistemas sean más transparentes y éticos, fortaleciendo asà la confianza y el derecho de los ciudadanos a saber.
We would like to acknowledge funding from the Generalitat Valenciana (Spain) through the PROMETEO 2024 CIPROM/2023/32 grant.
PROGRAMA PROMETEO 2024 – CIPROM/2023/32) de la Conselleria de Educación, Cultura, Universidades y Empleo.
