Claudia Gabriela Villeda Mejía
Jueza de distrito. Juzgado octavo de distrito en el Estado de México
Cuando hablamos de Inteligencia artificial estamos hablando del área de la ciencia y tecnología de la robótica, las matemáticas, el desarrollo de la física etcétera, sin embargo, la aplicación de la Inteligencia artificial cubre no solo esferas técnicas sino que también del amplio campo de las relaciones sociales.
Se afirma lo anterior, pues la inteligencia artificial se usa en salas de redacción de medios en campañas políticas, redes sociales y otros ámbitos relevantes de la esfera pública, además, cabe destacar que no solo resuelve tareas específicas, sino que también tiene el potencial de generar a su vez, un producto o información novedosa y distinta al que le dio origen.
Sobre este aspecto, hay que tener presente a la clásica pero nunca pasada de moda, obra de Nils John Nilsson, denominada “Principios de Inteligencia Artificial”, pues dicho autor nos invita a reflexionar sobre la ética y el futuro de la inteligencia artificial.
Para el referido científico estadounidense y, fundador de la inteligencia artificial, si bien ésta tiene un potencial asombroso para mejorar nuestras vidas también plantea importantes dilemas éticos y sociales que deben ser abordados con gran responsabilidad y cuidado, como por ejemplo, el sesgo algorítmico que puede resultar en decisiones discriminatorias o injustas, los algoritmos de inteligencia artificial aprenden a partir de datos históricos lo que significa que si estos datos reflejan sesgos sociales o culturales los algoritmos pueden replicar y amplificar esos sesgos.
De ahí que para resulte fundamental desarrollar sistemas de inteligencia artificial que sean equitativos y justos para todas las personas independientemente de su origen étnico género o clase social.
Otro aspecto crucial es la privacidad y la seguridad de los datos, con el aumento en la recopilación y el análisis de datos personales es fundamental garantizar que los datos de los individuos estén protegidos contra el acceso no autorizado y el mal uso, también garantizar la transparencia y la rendición de cuentas son fundamentales para construir la confianza del público en las tecnologías de esta naturaleza.
Asimismo, el científico a que se ha hecho referencia, quien fuera uno de los investigadores fundadores de la inteligencia artificial, también conocido por sus contribuciones en la investigación, planificación, representación del conocimiento y la robótica nos invita a reflexionar sobre el impacto de la inteligencia artificial en el empleo y la economía, si bien la automatización puede mejorar la eficiencia y reducir los costos en algunos sectores también plantea la posibilidad de desplazar a los trabajadores y aumentar la desigualdad económica, de ahí que sea crucial para los países desarrollar políticas y programas de capacitación que ayuden a los trabajadores a adaptarse a los cambios en el mercado laboral en cuanto al futuro de la inteligencia artificial.
Nilson, siendo uno de los padres fundadores de la inteligencia artificial, en su tan importante obra, nos insta a mantenernos optimistas pero cautelosos, pues reconoce que si bien la inteligencia artificial tiene el potencial de transformar radicalmente nuestras vidas para mejor también plantea desafíos significativos que debemos abordar de manera proactiva y colaborativa.
Al respecto, se considera oportuno involucrar a una amplia gama de actores incluidos científicos ingenieros políticos, abogados y ciudadanos en la discusión y formulación de políticas sobre el uso y el desarrollo de la inteligencia artificial.
Una vez expuesto lo anterior, es claro que la inteligencia artificial impacta invariablemente en los cuatro pilares fundamentales de la Organización de los Estados Americanos, a saber, democracia, derechos humanos, seguridad y desarrollo.
Un poco de historia. Hace 69 años, en la Novena Conferencia Internacional Americana se constituyó la Organización de los Estados Americanos conocida por sus siglas en español como la OEA, la cual es una entidad panamericana de ámbito regional y continental, a la que México se adhirió el 5 de mayo de 1948.
Se comienza con el pilar relativo a la democracia. De acuerdo con el portal electrónico del periódico “El País el año 2024 es un año electoral histórico, ya que cerca de más de 60 países acudirán a las urnas, de ahí que los candidatos a los distintos puestos de elección popular, echen mano de los distintos avances tecnológicos, entre los que destacan la inteligencia artificial.
En consecuencia, surge la siguiente interrogante ¿los recientes avances en inteligencia artificial, en particular la IA generativa como ChatGPT (OpenAI) y Copilot (Microsoft) impactarán de manera positiva o negativa a los procesos electorales?
Lo anterior, pues en fechas recientes se ha visto cómo pueden influir en la toma de decisiones, pues se ha visto que la inteligencia artificial tiene la capacidad para lanzar ciberataques, producir deepfakes y difundir desinformación, lo cual, evidentemente redunda en la desestabilización de los procesos democráticos, amenazar la integridad del discurso político y erosionar la confianza pública.
Otro de los pilares, son los derechos humanos, en el que destaca ¿Cómo sería nuestra vida si una Inteligencia artificial decidiera todo por nosotros? La ropa podría ser la mejor para el clima, pero quizás ¿sin estilo? la comida llena de nutrientes, pero quizás ¿sin sazón?
Sobre este punto, muchos algoritmos intentan mejorar nuestro día a día, pero los humanos estamos llenos de detalles y variables que no son sencillas de procesar, por lo que en ocasiones, terminan replicando problemas en vez de solucionarlos como sucede con el caso del denominado sesgo algorítmico.
Este concepto, a grandes rasgos se refiere a que de forma recurrente el algoritmo llega a resultados injustos o errores que generan o promueven discriminación a grupos específicos y pasan inadvertidos hasta que ponemos los resultados bajo la lupa.
Por ejemplo, en 2018 la empresa de noticias BBC publicó que Amazon descubrió que su algoritmo de contratación tenía un sesgo que favorecía a candidatos hombres versus a las mujeres, el problema fue que el algoritmo aprendió de los datos históricos de la empresa donde prevalecía la elección de hombres.
Por tanto, al contrario de lo que muchos piensan los datos y algoritmos no son neutrales, detrás de su programación están personas que deciden qué información se prioriza, es decir, los creadores de estas tecnologías son personas que introducen su visión del mundo que puede ser sesgada o injusta, por lo que surge la necesidad de crear algoritmos que a su vez detecten sesgos y busquen nuevas soluciones, pues no es admisible que este tipo de avances reproduzcan situaciones discriminatorias y vulneren derechos humanos.
Por último, tenemos los pilares denominados de seguridad y desarrollo. Con base en estos dos rubros, se pretende responde a la siguiente interrogante que plantea la inteligencia artificial ¿qué pasaría si los crímenes pudieran prevenirse antes de que se cometieran?
Esa es la idea detrás de la propuesta de desarrollar tecnología que permita una especie de “policía predictiva” pues la Inteligencia artificial puede analizar grandes conjuntos de datos y detectar patrones o tendencias que a los humanos de carne y hueso nos tomaría muchísimo tiempo realizar de manera “analógica”.
Al respecto, si bien el trabajo policial sería más eficiente y se reducirían los errores humanos en la toma de decisiones, surge el riesgo patente de cometer decisiones injustas, ya que se debe tener presente que la inteligencia artificial “entrena” con datos históricos sesgados por prejuicios y, por tanto, sus predicciones van a seguir el mismo patrón y, por ejemplo, muchos distritos poblacionales pobres pueden terminar siendo “sobrevigilados” porque el modelo pudiera predecir que las tasas de criminalidad serán más altas en esas con esas características como resultado.
En suma, la inteligencia artificial se trata de una herramienta que afecta a los cuatro pilares de la OEA, por lo que es de vital importancia la implementación de políticas públicas sobre la ética de la Inteligencia artificial en las que se reconozca además, que las cuestiones críticas atañen a todas las etapas del ciclo de creación de estos softwares y todos los actores involucrados en este ciclo, desde aquellos que participan de su financiamiento, los estados miembros hasta el usuario final, de modo tal que los estados miembros garanticen algoritmos que no refuercen sesgos y que se respete, sobre todo y ante todes, la dignidad humana.