Por John McCormick
Un enfoque dual a la ética de la IA. El hecho de hacer que la inteligencia artificial sea ética se aborda de una o dos maneras: un desarrollador puede codificar las reglas en un sistema de IA, o el sistema puede aprender qué es lo correcto o lo incorrecto a través del aprendizaje automático, informa el Consejo Jared de WSJ Pro. Dos investigadores, sin embargo, están argumentando que un tercer enfoque, que combina los dos métodos, debería considerarse más a menudo.
Nicholas Mattei, profesor asistente de ciencias de la computación en la Universidad de Tulane, y Francesca Rossi, líder global de ética de AI en la división de investigación de International Business Machines Corp., expusieron sus ideas en un artículo publicado a principios de este año.
Examinando los dos enfoques. El enfoque basado en reglas implica instrucciones codificadas específicas sobre cómo un sistema de inteligencia artificial debe tomar decisiones, como decirle a una aplicación que ayuda a tomar decisiones de contratación para no considerar la raza como un factor. El enfoque basado en datos, por otro lado, utiliza el aprendizaje automático para ayudar a establecer límites éticos, como un motor de recomendación de películas que aprende qué contenido es apropiado para los niños.
Creando una combinación. Si se combinan los dos enfoques, dijo Mattei, un sistema podría aprender pautas que son difíciles de articular en el código, pero podría seguir reglas explícitas. Dio un ejemplo de un sistema de recomendación de video que opera con la regla, "No recomiendo productos violentos", que también podría aprender restricciones como, "Algunos casos de violencia están bien en los documentales históricos".
Rumman Chowdhury, director gerente y responsable de AI responsable de Accenture, dijo que el documento de la Sra. Rossi y el Sr. Mattei ofrece un marco técnico para abordar la ética de la IA, que puede fomentar conversaciones sobre los tipos de valores que las organizaciones desean poner en sus sistemas de AI.
No sin sus desafíos. El desafío con un enfoque basado en reglas, dijo Chowdhury, es que las partes interesadas estén de acuerdo sobre cuáles son las reglas. Para un enfoque basado en datos, una pregunta clave es a qué valores está aprendiendo el sistema, dijo. El documento reconoce algunos de estos desafíos. También plantea la cuestión de cómo garantizar que los límites éticos de un sistema evolucionen con la sociedad.