La ética de las máquinas inteligentes y lo que aprendemos de la tarjeta MasterPlop

Por John Atkinson

Un conocido humorista cuenta que una persona, por presión insistente de una vendedora, acepta la tarjeta de crédito MasterPlop, que en realidad no necesitaba, pero que se alardeaba de sus exagerados beneficios. Lamentablemente, el cliente se endeuda para comprar regalos de matrimonio. Claramente, la acción de la vendedora tiene consecuencias éticas evidentes: el beneficio económico para la empresa versus el endeudamiento injustificable del cliente.

Dado el crecimiento de MasterPlop, se requiere disponer de muchos más vendedores, lo que no es posible actualmente. Por ello, la empresa decide automatizar el otorgamiento de tarjetas por medio de un programa computacional, que utiliza ciertos criterios preestablecidos.  Debido a esto, la decisión del programa continúa teniendo un impacto ético negativo en los clientes. Sin embargo, sabemos quién es el responsable de tal decisión, pues esta fue alimentada por un humano, por lo que podríamos solicitar a la empresa que modifique el programa para evitar tales consecuencias.

Al pasar el tiempo, MasterPlop se da cuenta de que el entorno de negocios se hace demasiado cambiante, por lo que sus procedimientos de otorgamiento de tarjetas ya no son tan claros. Ahora no es suficiente con que la máquina decida automáticamente, esta debe tener mayor autonomía en sus decisiones. Así, utilizando tecnologías de Inteligencia Artificial (IA), se rediseña la máquina de modo que pueda decidir autónomamente sobre potenciales clientes. Lamentablemente, varios clientes continúan sufriendo las consecuencias. ¿Quién tiene ahora la responsabilidad ética?.  La situación no es evidente como antes: la máquina toma sus decisiones sin intervención humana, por lo que no sigue criterios definidos, así, en principio, no existe responsabilidad humana.

Pero esto va mucho más allá del mero diseño de máquinas con IA que pueden actuar con principios éticos. Esto podría impactar sistemas socioculturales completos puesto que muchas personas podrían perder sus trabajos o tener demasiado tiempo de ocio llevándolo a problemas de salud mental, o peor aún, podríamos perder el control o responsabilidad de las máquinas (accountability), tal como el caso de MasterPlop. De ahí que la incorporación de la ética en las máquinas se ha convertido en un foco de regulación por varios organismos internacionales tales como la OCDE, múltiples comités sobre ética en IA en USA y Europa, etc. Estos intentan regular la ética en la IA desde tres dimensiones: (1) Regulaciones y práctica en la forma de principios para diseñar sistemas inteligentes, (2) Ética en la operación de las máquinas y (3) Justicia en los métodos algorítmicos para evitar sesgos en sus decisiones. El impacto sociocultural positivo que esto puede generar es incuestionable pues muchos problemas en todo ámbito privado o público, y en diferentes áreas industriales/comerciales, que están requiriendo tecnologías de IA, deben tomar decisiones con claros efectos éticos y legales: acciones de un vehículo no tripulado que puede atentar contra la vida de transeúntes, sistema de diagnóstico médico que comete alguna negligencia, sistema de IA que rechaza indebidamente candidatos a un trabajo, etc.

Para abordar todo esto, usualmente se sugiere que los principios para que la ética en las máquinas siga cuatro derechos fundamentales: el respeto por la autonomía humana, la prevención del daño, la justicia en las decisiones y la explicabilidad de las decisiones. La sinergia de estos derechos debería asegurar que las máquinas inteligentes en el corto-mediano plazo no sólo tomen decisiones éticas sino también que constituyan sistemas autónomos robustos y confiables para los seres humanos y la sociedad en general.

Con este nuevo foco científico-tecnológico, MasterPlop definitivamente se deberá preocupar de que sus máquinas no sólo tomen decisiones beneficiosas para ellos, sino que también realicen acciones con consecuencias éticas positivas para sus clientes. En una de esas, ya no tendríamos que endeudarnos con la tarjeta para comprar un sofá costoso pues quizás una máquina inteligente nos podría sugerir mejores alternativas.

Sobre John

John Atkinson es profesor titular de la Facultad de Ingeniería de la UAI. Previamente, fue profesor en la UTFSM y en la Univ. de Concepción. El profesor Atkinson obtuvo un PhD in Artificial Intelligence, de la University of Edinburgh, y ha sido profesor visitante en la University of Cambridge, MIT, e INRIA, entre otros. El Dr. Atkinson ha liderado proyectos tanto científicos como tecnológicos relacionados a sistemas inteligentes, procesamiento de lenguaje natural, y aprendizaje automático. En el año 2020 publicó el libro “Text Analytics: An Introduction to the Science and Applications of Unstructured Information Analysis”. En el año 2010, el Profesor Atkinson recibió la distinción Senior Member Award de la ACM.