Inteligencia Artificial y gobernanza

Definimos gobernanza en inteligencia artificial como el modelo de relaciones entre las empresas, el gobierno y la comunidad de investigación involucradas en el avance y desarrollo de esta tecnología. Los retos de la gobernanza de cualquier tecnología, y especialmente el de la inteligencia artificial, tienen que ver con la incertidumbre que provoca el balance entre las oportunidades que presenta y los riesgos asociados. 

Gobernanza de la IA

Nuestros expertos han detectado los siguientes puntos clave para la gobernanza de la Inteligencia artificial:

1. La inteligencia artificial es una tecnología de utilidad general (GPT, por sus siglas en inglés), es decir, es una tecnología que trasforma todas las funciones esenciales de la civilización, desde la producción de energía a la comunicación interpersonal. Las tecnologías GPT tienen una proliferación rapida, con una potencial económico elevado, por lo que es complicado tener un control centralizado ni objetivos comunes de gobernanza.

2. La inteligencia artificial está en un momento de competición estratégica, es decir, tanto los gobiernos como las grandes compañías globales están invirtiendo muchos recursos en su desarrollo. Siete de las 10 corporaciones más grandes del mundo por valor de mercado, tienen la IA en su corazón estratégico (Amazon, Apple, Alphabet, Microsoft, Facebook, Alibaba y Tencent) e invierten muchos recursos en I+D, lo que hace difícil una gobernanza común. 

Esta es la razón de la creación de Partnership on AI, un consorcio al que se han unido estas grandes empresas (excepto Tencent) donde discuten sobre cómo fomentar y regular la innovación y la gobernanza de la inteligencia artificial, y a su vez, luchar contra la manipulación que esta podría sufrir. 

3. La privatización de la gobernanza de la inteligencia artificial. Nuestros expertos alertan del riesgo de que el sector privado capte el interés publico y de que las normas se hagan sin transparencia, sin responsabilidad y sin el mandato democrático de las personas, de que sean los grandes imperios tecnológico lo que tomen las grandes decisiones en la tecnología que nos afecta a todos.

4. El “Estado Tecnológico”. En su ensayo Fabricando la revolución de la inteligencia artificial, el biólogo Yarden Katz habla sobre la falsa impresión de que los sistemas actuales han superado las capacidades humanas hasta el punto de pensar que las maquinar pueden manejar mejor muchas áreas de la vida. Esto se basa en una visión limita y empírica de la inteligencia humana, y es lo que Alain Supoit llama gobernar por números, una manera de limitar que el pensamiento está basado en métricas sobre métricas. 

Nuestro experto  David Weinberge  afirma que la inteligencia artificial se basa en el aprendizaje automático, que aprende de los datos que nosotros le damos, y estos, a menudo, reflejan prejuicios existentes, con subjetividad humana y sesgos. De todas formas, utilizamos los actuales sistemas de inteligencia artificial porque pensamos que pueden obtener resultados superiores a los que podría obtener un humano, pero a veces, dicha superioridad sólo es una cuestión de mayor velocidad o menor precio.