Periodista Cristina Canahuati

¿Quién es responsable de las decisiones que toma la inteligencia artificial (IA)? Esta fue una de las preguntas abordadas durante un conversatorio desarrollado por la Carrera de Filosofía y la Escuela de Matemáticas y Ciencias de la Comunicación de la Universidad Nacional Autónoma de Honduras (UNAH), en el que expertos de estas áreas analizaron los desafíos que plantea el desarrollo y uso de esta tecnología.

Desde la perspectiva matemática, Henry Ocampo, coordinador de la Licenciatura, explicó que “la IA trabaja conforme a algoritmos numéricos que representan un aprendizaje de modelos matemáticos y de cómo se realiza el proceso de evaluación y el registro de algunas anomalías que pueden presentarse”.

Asimismo, señaló que estos sistemas pueden presentar fenómenos como el subajuste o el sobreajuste, lo que significa que sus respuestas no siempre son certeras y pueden incorporar sesgos dependiendo de la información utilizada y de la manera en que se formule una consulta. Agregó que estos sesgos pueden surgir durante el aprendizaje del sistema o incluso provenir de los proveedores de los modelos.

Desde el punto de vista filosófico, el máster Oliver Rodríguez consideró que la responsabilidad frente a posibles fallos de la IA no puede atribuirse a una sola persona. “No podemos señalar con el dedo al responsable de que la IA haya fallado; se trata de una responsabilidad repartida entre organismos internacionales y Estados que regulan las políticas en torno al uso y desarrollo de la IA”, manifestó. En ese sentido, destacó la necesidad de que los Estados desarrollen marcos jurídicos específicos que permitan regular el uso y desarrollo ético de estas tecnologías.

Rodríguez también señaló la importancia de considerar a quienes desarrollan y utilizan estos sistemas dentro de la discusión sobre responsabilidad, especialmente frente al denominado fenómeno de la “caja negra”, relacionado con la dificultad para conocer y explicar algunos procesos internos mediante los cuales los modelos de inteligencia artificial generan sus resultados. Los expertos coincidieron en que comprender estas limitaciones es necesario para evitar que se diluya la responsabilidad frente a las decisiones y resultados producidos por estas herramientas.

Ante este escenario, los especialistas plantearon la importancia de utilizar la inteligencia artificial como una herramienta de apoyo y no como un sustituto del conocimiento y el criterio humano. Desde estudiantes que recurren a herramientas como ChatGPT para realizar una tarea hasta docentes que pueden utilizarlas para preparar actividades o planificaciones, su uso debe acompañarse de verificación, revisión de las fuentes y criterios propios.

El desafío, señalaron, consiste en aprovechar las capacidades de la IA sin perder de vista sus limitaciones, sus posibles sesgos y la responsabilidad humana que acompaña su utilización.