Resumen generado por IA
La gobernanza en inteligencia artificial (IA) se define como el modelo de relaciones entre empresas, gobierno y la comunidad investigadora para el desarrollo de esta tecnología. Un reto fundamental es equilibrar las oportunidades que ofrece la IA con los riesgos asociados, en un contexto de incertidumbre. La IA es considerada una tecnología de utilidad general (GPT), capaz de transformar funciones esenciales de la sociedad y con una rápida proliferación y alto potencial económico, lo que dificulta un control centralizado y objetivos comunes de gobernanza.
Actualmente, la IA se encuentra en una etapa de competición estratégica, con grandes corporaciones y gobiernos invirtiendo masivamente. Siete de las diez mayores empresas por valor de mercado tienen a la IA en su núcleo estratégico, impulsando la creación de consorcios como Partnership on AI para fomentar la innovación y regulación. Sin embargo, existe preocupación por la privatización de la gobernanza, donde las decisiones pueden estar dominadas por intereses privados sin transparencia ni responsabilidad democrática.
Además, se advierte sobre una visión limitada de la inteligencia basada en métricas cuantitativas, que puede llevar a gobernar «por números» sin considerar la complejidad humana. La IA, basada en aprendizaje automático, aprende de datos humanos que pueden incluir prejuicios y sesgos, lo que implica que su aparente superioridad a veces solo es cuestión de velocidad o costo, no de mejor juicio o ética.
Los retos de la gobernanza de la inteligencia artificial se basan en el balance entre las oportunidades que presenta y los riesgos asociados.
Definimos gobernanza en inteligencia artificial como el modelo de relaciones entre las empresas, el gobierno y la comunidad de investigación involucradas en el avance y desarrollo de esta tecnología. Los retos de la gobernanza de cualquier tecnología, y especialmente el de la inteligencia artificial, tienen que ver con la incertidumbre que provoca el balance entre las oportunidades que presenta y los riesgos asociados.
Gobernanza de la IA
Nuestros expertos han detectado los siguientes puntos clave para la gobernanza de la Inteligencia artificial:
1. La inteligencia artificial es una tecnología de utilidad general (GPT, por sus siglas en inglés), es decir, es una tecnología que trasforma todas las funciones esenciales de la civilización, desde la producción de energía a la comunicación interpersonal. Las tecnologías GPT tienen una proliferación rapida, con una potencial económico elevado, por lo que es complicado tener un control centralizado ni objetivos comunes de gobernanza.
2. La inteligencia artificial está en un momento de competición estratégica, es decir, tanto los gobiernos como las grandes compañías globales están invirtiendo muchos recursos en su desarrollo. Siete de las 10 corporaciones más grandes del mundo por valor de mercado, tienen la IA en su corazón estratégico (Amazon, Apple, Alphabet, Microsoft, Facebook, Alibaba y Tencent) e invierten muchos recursos en I+D, lo que hace difícil una gobernanza común.
Esta es la razón de la creación de Partnership on AI, un consorcio al que se han unido estas grandes empresas (excepto Tencent) donde discuten sobre cómo fomentar y regular la innovación y la gobernanza de la inteligencia artificial, y a su vez, luchar contra la manipulación que esta podría sufrir.
3. La privatización de la gobernanza de la inteligencia artificial. Nuestros expertos alertan del riesgo de que el sector privado capte el interés publico y de que las normas se hagan sin transparencia, sin responsabilidad y sin el mandato democrático de las personas, de que sean los grandes imperios tecnológico lo que tomen las grandes decisiones en la tecnología que nos afecta a todos.
4. El “Estado Tecnológico”. En su ensayo Fabricando la revolución de la inteligencia artificial, el biólogo Yarden Katz habla sobre la falsa impresión de que los sistemas actuales han superado las capacidades humanas hasta el punto de pensar que las maquinar pueden manejar mejor muchas áreas de la vida. Esto se basa en una visión limita y empírica de la inteligencia humana, y es lo que Alain Supoit llama gobernar por números, una manera de limitar que el pensamiento está basado en métricas sobre métricas.
Nuestro experto David Weinberge afirma que la inteligencia artificial se basa en el aprendizaje automático, que aprende de los datos que nosotros le damos, y estos, a menudo, reflejan prejuicios existentes, con subjetividad humana y sesgos. De todas formas, utilizamos los actuales sistemas de inteligencia artificial porque pensamos que pueden obtener resultados superiores a los que podría obtener un humano, pero a veces, dicha superioridad sólo es una cuestión de mayor velocidad o menor precio.
Socia de Apollo
