Publicaciones

Conexión Cinvestav

El desarrollo y aplicación de la inteligencia artificial debe atender principios legales y éticos

Image
El Investigador del Departamento de Computación de la Universidad Politécnica de Catalunya, Ulises Cortés, expuso los límites que debe considerar el desarrollo de la IA

Ulises Cortés, profesor del Departamento de Computación de la Universidad Politécnica de Catalunya, sostuvo que el desarrollo de la Inteligencia Artificial debe seguir cuatro principios: autonomía, buscando el control humano; la no maleficencia, para evitar hacer daño o afectar de manera adversa al ser humano; la justicia, donde se permita una distribución equitativa de sus beneficios o costos; y la “explicabilidad”, para fomentar la transparencia, el seguimiento o la “auditabilidad”.

Durante su ponencia académica denominada “Facts and Limits of IA. An Ethics, Legal SocioEconomic and Cultural (ELSEC) Aproach”, dictada en el Departamento de Control Automático del Cinvestav el también investigador del Centro de Cómputo de Barcelona, definió la IA desde dos perspectivas; la visión de la Unión Europea, como base para los textos legales, donde establece que un sistema es inteligente si tiene capacidad de tomar decisiones basado en sus precepciones del entorno y conociendo las consecuencias de sus acciones en mismo entorno. Y desde el punto de vista científico, como entender cuáles son las condiciones donde emerge la inteligencia humana y reproducirla con una máquina.

Ulises Cortés explicó que desde 1956, cuando surge la IA esa tecnología se aplica en todos y cada uno de los aspectos de la vida, “en cualquier lugar donde se encuentra un humano, que ha generado un corpus de conocimiento y se puede compilar para traducirlo a un conjunto de reglas lógicas, ahí se encuentra los elementos de desarrollo de la IA ,ya sea en el tema de la neurofisiología, astronomía, economía, sociología, casi para cualquier área del conocimiento”.

Para el desarrollo tecnológico que se experimenta a nivel internacional, la IA tiene todas las ventajas si se utiliza de manera adecuada, el problema es que al no estar regulada puede producir asimetrías y cometer ilegalidades flagrantes, sin embargo, tiene ventajas que le permiten realizar con mayor facilidad ciertos tipos de tareas en comparación con los seres humanos y en situaciones donde se puede causar un daño irreversible a las personas, como en una mina, una central nuclear o bajar al fondo del mar, en ese tipo de actividades una máquina las podría hacer mejor, ya hay robots que trabajan en estas circunstancias y son las que nos interesan.

Lo límites de la IA están asociados a la propia naturaleza de las aplicaciones porque no todas tienen las mismas restricciones, por eso se ha creado un marco general que permite estudiar cada caso. En términos éticos la IA debería tomar en cuenta el respeto a la dignidad humana, evitando la manipulación; la libertad individual, en términos de los derechos fundamentales; respeto a los principios democráticos y la justicia; la igualdad, evitando la discriminación o la exclusión; y el respeto a los derechos humanos, permitiendo el acceso a la administración o los servicios.

Image
Ulises Cortés Investigador del Departamento de Computación de la Universidad Politécnica de Catalunya

Uno de los grandes temores de la sociedad ante la IA es la sustitución de los humanos por las máquinas, que es un miedo de tipo económico, porque en ocasiones resulta más barata una máquina para realizar con mayor eficiencia cierto tipo de tareas, pero antes de pensar en la sustitución se debería cambiar ese concepto en la sociedad, preguntando cuánto cuesta y quién lo paga, sin embargo, hay otros temores peores, como el control de los datos, la privacidad o los problemas ambientales que puede generar. 

Pareciera que en términos tecnológicos la IA va evolucionando de manera muy rápida, en comparación con la velocidad de su regulación, pero eso sucede porque el tema no existía, se ha empezado ese trabajo hace muy poco y llegar tarde tiene esas desventajas, “es como en el dilema de Collingridge donde el asunto antes no se tomaba en cuenta, ahora que ya se tiene es difícil resolverlo, pero sobre todo, ahora la dificultad es que las personas no saben de él”, señaló el investigador.

Hacia el futuro, la IA se dirige a cualquier cosa que el ser humano pueda imaginar, donde se requiera conocimiento para emprender alguna actividad y, en México, como en otras partes del mundo, la comunidad dedicada a la investigación sobre el tema debería ser mas grande, pero por la falta de apoyo ha terminado en una desbandada, aseguró Ulises Cortés

Artículo anterior Cinvestav presenta su ruta de atención a la violencia de género
Siguiente artículo Cinvestav ofrece verano de investigación de vanguardia para adentrarse en la física
Print
2239