04/06/2025
Las investigadoras María José del Jesus Díaz y María Dolores Pérez Godoy, pertenecientes al Grupo de Investigación ‘Sistemas Inteligentes y Minería de Datos (SIMIDAT)’ (TIC-207) de la Escuela Politécnica Superior de Jaén de la Universidad de Jaén, han participado en un nuevo programa de ‘Campus: Panel de Expert@s’, espacio dirigido y presentado por Julio Ángel Olivares Merino en UniRadio Jaén. Las líneas de estudio del grupo se centran en el descubrimiento de conocimiento y en la aplicación de técnicas de inteligencia artificial para el desarrollo de soluciones a problemas del mundo real. Así pues, el grupo emplea ciencia de datos, big data, deep learning, machine learning, soft computing y técnicas de optimización sobre una amplia variedad de dominios de aplicación, tales como la medicina, la educación, la economía o la seguridad.
En lo que concierne a la IA, María José del Jesus Díaz matizó que “es una herramienta transversal y fundamental que está produciendo y posibilitando avances impensables en algunos ámbitos como la salud; por ejemplo, está permitiendo explorar nuevos fármacos para apoyar el tratamiento personalizado en medicina. Estamos ante una herramienta que proporciona multitud de beneficios, pero hemos de ser conscientes de su uso para que seamos capaces de evitar sus riesgos al conocer sus limitaciones, por lo que cualquier conversación que ponga el acento en dichas restricciones ha de ser abordada a fin de aprovechar la IA plenamente”. Además, Pérez Godoy añadió que “se está trabajando bastante en inteligencia artificial, pero conviene aclarar el uso ético y legal de esta área de investigación, el cual no dista del relativo a otras disciplinas. Lo que diferencia en el caso de la IA es el rápido avance de la tecnología, factor que no propicia acompasar la legislación, que no ha de ir en contra del progreso sino que tiene que desarrollarse paralelamente”.
Dentro de numerosos ámbitos, existe una creciente preocupación acerca de los sesgos de la inteligencia artificial. De este modo, “las grandes compañías almacenan los datos de los usuarios de la IA estratégicamente, lo que provoca la generación de algoritmos sin ningún tipo de cortapisa, de ahí que haya habido que retirarlos por la producción de sesgos, debido a que los datos de internet en los que se fundamenta la inteligencia artificial ya cuentan con información sesgada”, indicó del Jesus Díaz. Asimismo, “de cara al futuro, las diversas normativas que se están fraguando en el seno de las distintas instituciones se fundamentan en los niveles de riesgo de la IA, por lo que se ha establecido una serie de condiciones de calidad que ha de incluir la información proporcionada por la inteligencia artificial. También se pide a la IA que, aparte de la información, se proporcione al usuario cierta explicación a través de referencias y de fuentes fehacientes en la medida en que hay que considerar la atribución de responsabilidades”, informó María Dolores Pérez.
En la disciplina que atañe a big data, María José del Jesus aclaró que “hay patrones que se repiten a menudo en los datos y que son detectados por los programas de aprendizaje automático que diseñamos. En consecuencia, si bien existe reiteración, no se debería asimilar la mencionada incidencia con la realidad del mundo. Por tanto, a nuestro espíritu crítico le corresponde extraer conclusiones y analizar pormenorizadamente los datos proporcionados por la IA”. En este sentido, Pérez Godoy advirtió que los humanos somos conscientes de nuestras limitaciones, mientras que la inteligencia artificial generativa “nunca va a reconocer que no tiene suficiente conocimiento acerca de un tema específico, por lo que rellenará los vacíos informativos con material incierto, lo que es susceptible de conllevar la difusión de la desinformación o las conclusiones erróneas, de ahí que la IA deba constituirse como un apoyo para el ser humano en los ámbitos que conoce, pues no es recomendable preguntar a la IA sobre un tema desconocido en tanto que suele ofrecer respuestas imprecisas y basadas en información incompleta o poco contrastada”.
En definitiva, el Grupo de Investigación SIMIDAT de la EPSJ de la UJA, a través de la inteligencia artificial, ofrece avances significativos en campos como la medicina, la educación y la seguridad, gracias al análisis de grandes volúmenes de datos y de técnicas avanzadas como el deep learning. Sin embargo, el rápido desarrollo de la IA plantea retos éticos y legales, especialmente en cuanto a sesgos y desinformación. Es fundamental un uso crítico y responsable, el cual complemente la IA con el juicio humano y con las regulaciones que aseguren transparencia y sensatez. Así, la IA puede ser una herramienta poderosa que, bien gestionada, potencia el conocimiento y la innovación.
Escucha el programa completo en el siguiente enlace:
https://go.ivoox.com/rf/148992975