Inteligencia artificial
Descubriendo el futuro de la inteligencia artificial generativa
FIBK
En el nuevo episodio de Innoverse, exploramos el potencial, las implicaciones y las preocupaciones de la IA generativa en la sociedad, la economÃa y el ámbito creativo, con Andrés Torrubia
La inteligencia artificial ha sido objeto de un constante avance y desarrollo, y la reciente liberación de GPT-4 marca un hito en este campo. El podcast Innoverse de la Fundación Innovación Bankinter aborda este emocionante y revolucionario tema, explorando el impacto que esta innovación tecnológica está teniendo en la sociedad. Un tecnólogo de Silicon Valley comparó el lanzamiento del GPT-4 con el del ordenador personal y la propia Internet, sugiriendo que el mundo nunca volverá a ser igual. GPT-4, evolución de ChatGPT, ha generado un enorme revuelo y rápidamente ha captado la atención de millones de personas y empresas de todo el mundo. Pero ¿qué significa realmente este avance en la inteligencia artificial generativa?
En el último capÃtulo de nuestro podcast Innoverse, conducido por la periodista independiente especializada en innovación y tecnologÃa Esther Paniagua, nos acompaña Andrés Torrubia, con el que analizamos las implicaciones de la IA generativa, desde cómo está cambiando la forma en que interactuamos con la tecnologÃa hasta el debate sobre la regulación y los posibles impactos indeseados en nuestra sociedad.
Andrés Torrubia es un emprendedor en la intersección de la ingenierÃa, la mentalidad customer-first y la monetización. Es cofundador de MedBravo, que aplica el aprendizaje automático a la investigación médica y del Instituto de Inteligencia Artificial (IIA), organización de habla hispana que ayuda a aplicar la IA en la economÃa y la sociedad. Además, es el anfitrión del podcast de habla hispana sobre IA Software 2.0.
Aquà puedes escuchar este capÃtulo de #Innoverse:
Inteligencia Artificial Generativa con Andrés Torrubia
A continuación, resumimos el capÃtulo de nuestro podcast con Andrés Torrubia:
Inteligencia artificial generativa: ¿cuál es su estado de desarrollo?
La inteligencia artificial generativa está experimentando un rápido crecimiento, con herramientas que pueden generar textos, replicar voces, crear ilustraciones, programar aplicaciones e incluso componer música. Sin embargo, la fiabilidad de las respuestas generadas por sistemas como ChatGPT plantea preocupaciones. Las posibilidades y los interrogantes en torno a esta tecnologÃa, como el impacto en el mercado laboral y el riesgo de desinformación, son enormes y requieren un análisis exhaustivo.
A pesar de los impresionantes resultados actuales, la inteligencia artificial generativa sigue siendo incipiente. Con dos tipos principales de modelos, lenguaje e imagen, la investigación en curso sugiere que lo que está por venir será aún más sorprendente y significativo.
Para explicarnos el estado del arte de los sistemas de IA generativa de lenguaje, Andrés hace referencia a los conceptos introducidos por Daniel Kahneman en su libro «Pensar rápido, pensar despacio«: el sistema uno – pensamiento rápido, instintivo y automático- y el sistema dos -que implica un razonamiento más lento, consciente y analÃtico-. Actualmente, los sistemas de inteligencia artificial como ChatGPT, basados en GPT-4, funcionan con un «razonamiento» tipo sistema uno, similar a los reflejos humanos. Lo que se espera en el futuro es dotar a estos modelos de lenguaje de un razonamiento más profundo, como el sistema dos, permitiéndoles reflexionar y autocorregirse. La idea de que en una década estos sistemas puedan pensar, en muchos aspectos mejor que los humanos, es emocionante y también puede generar cierto temor o respeto por las capacidades que se están desarrollando. Lo que antes parecÃa ciencia ficción ahora se vislumbra como una realidad cercana.
Inteligencia artificial general: dependiendo de cómo la definamos, podrÃa llegar
Es necesario definir la inteligencia artificial general (IAG), pues la inteligencia humana y la inteligencia artificial (IA) tienen bases diferentes y realizarán tareas distintas. OpenAI ha propuesto una definición de IAG basada en el enfoque económico, aunque las máquinas aún no comprenden las tareas que realizan. Actualmente, los sistemas de IA, como ChatGPT, funcionan con razonamientos fallidos que pueden generar problemas, aunque su evolución es prometedora.
Los objetivos de diseño de estos sistemas, como GPT, están cambiando hacia el alineamiento con objetivos positivos, como la veracidad y la utilidad. Sin embargo, aún es difÃcil conseguir resultados perfectos. Sistemas como Perplexity y plugins como Wolfram Alpha comienzan a consultar fuentes de datos fiables externas para mejorar la veracidad de las respuestas.
En el futuro, se espera que los sistemas de IA sean capaces de emular el razonamiento humano a través del llamado «sistema dos», analizando y corrigiendo sus ideas antes de dar una respuesta. Esto podrÃa mejorar la calidad de las respuestas y tener un gran impacto socioeconómico. Aunque los sistemas actuales tienen limitaciones, es importante centrarse en el futuro de los modelos de lenguaje y ver cómo abordar los problemas que aún tendrán.
CrÃticas a la inteligencia artificial generativa
Las crÃticas son fundamentales para el desarrollo de la inteligencia artificial y pueden ser de dos tipos: cuando la IA funciona mal y cuando funciona bien. Las crÃticas por mal funcionamiento se enfocan en errores o resultados incorrectos, mientras que las crÃticas por buen funcionamiento abordan preocupaciones sobre posibles efectos socioeconómicos negativos o el uso indebido de la IA. Empresas como OpenAI han sido criticadas por liberar herramientas que, al funcionar bien, pueden ser utilizadas de forma maliciosa, como la generación de malware o la realización de ciberataques. Es importante diferenciar entre crÃticas por mal funcionamiento y aquellas que surgen debido a posibles consecuencias negativas cuando la IA funciona correctamente. La preocupación principal deberÃa ser garantizar que la IA funcione bien y abordar los posibles riesgos y desafÃos que esto conlleva.
Las grandes tecnológicas frente al código abierto en la IA generativa
El mercado de desarrollo de herramientas de inteligencia artificial generativa está dominado por gigantes tecnológicos como Microsoft, Google y Meta. Sin embargo, empresas como Stability AI han demostrado que es posible crear soluciones abiertas y accesibles, como Stable Diffusion -modelo para generar imágenes- y StableVicuna -modelo para generar texto-, que pueden competir con modelos propietarios. Según Andrés Torrubia, los modelos de código libre simplemente están retrasados unos nueve meses respecto a los modelos propietarios.
La comunidad de software libre y código abierto puede ayudar a cerrar la brecha tecnológica y promover la innovación, permitiendo que más empresas y usuarios se beneficien de estas herramientas sin depender exclusivamente de los gigantes tecnológicos. Con la ventaja añadida de que los modelos y el código se pueden descargar en local y asÃ, evitar problemas de confidencialidad de datos y privacidad.
El reto de la IA generativa en la educación
La IA generativa plantea desafÃos importantes en la educación. A medida que estas herramientas maduren y sean más precisas, podrÃan cambiar nuestra forma de aprender y trabajar. Aunque no hay una respuesta definitiva a cómo afectarán a la educación, es crucial adaptar su uso para mejorar el pensamiento crÃtico y no limitar la creatividad. Estas tecnologÃas podrÃan igualar la mediocridad, permitiendo a aquellos sin conocimientos previos competir con expertos en un tema. Por otro lado, si las personas no necesitan aprender a escribir bien, podrÃan perder habilidades para razonar.
La comunidad educativa debe reflexionar sobre cómo evitar la atrofia intelectual y cómo adaptar la educación a este nuevo escenario. La incorporación de la IA generativa en la enseñanza podrÃa requerir un replanteamiento del propósito de la educación, ya sea como un medio para enriquecerse personalmente o para obtener empleo. El impacto en áreas como el arte también es ambiguo, ya que podrÃa ser tanto una fuente de inspiración como una amenaza para la expresión artÃstica.
En el futuro, las herramientas de IA podrÃan servir para amplificar nuestras capacidades, siempre y cuando se utilicen correctamente. Es necesario que los sistemas educativos incluyan módulos para enseñar a los estudiantes cómo usar la IA generativa de manera efectiva y adaptarla a sus campos de estudio. Además, las personas tendrán que aprender a evaluar la calidad de las ideas generadas por estas herramientas, lo cual no es una tarea sencilla.
La IA generativa y la creación artÃstica
El uso de IA generativa en la creación artÃstica, con herramientas como Dall-E o Midjourney, ha llevado a una devaluación del trabajo de artistas y programadores. Estos modelos se han entrenado con el trabajo de dichas personas, y se están generando disputas legales por propiedad intelectual, como el caso de Getty Images contra Stable Diffusion.
El problema se puede ver desde dos perspectivas: el copyright y la polÃtica. Desde el punto de vista del copyright, el opt-out de artistas vivos no es suficiente, ya que es asimétrico y pone la carga en el artista. Además, este enfoque solo retrasa el problema, ya que es probable que surjan modelos donde la gente ceda su trabajo de forma gratuita a cambio de incentivos.
El problema polÃtico es más complejo y se trata de qué mundo queremos. La devaluación del trabajo artÃstico podrÃa llevar a que los artistas tengan menos incentivos para dedicarse al arte. Este problema requiere una respuesta polÃtica, y se barajan ideas a futuro, como la renta básica universal, para abordar las consecuencias socioeconómicas del uso de tecnologÃas como la IA generativa.
En todo caso, es urgente un enfoque combinado de polÃticas y regulaciones para abordar adecuadamente los problemas derivados de la IA generativa en la creación artÃstica.
En cuanto a evitar usos nocivos de la IA generativa, actualmente es difÃcil abordar estas problemáticas desde una perspectiva técnica, y serÃa más efectivo perseguir actividades con impacto negativo, como las campañas de desinformación.
El test de Innoverse
En esta sección del podcast, a modo de juego, nuestro invitado responde a tres situaciones imaginarias:
Imagina que tienes que elegir una sola tecnologÃa para mejorar el mundo y que decides escoger la que tiene mayor potencial para hacerlo. ¿Cuál escogerÃas y por qué?
La energÃa de fusión nuclear (nuestro último invitado a Innoverse fue Pablo RodrÃguez, que está en el MIT trabajando en fusión nuclear)
Estás en una situación de poder virtualmente infinito, ¿qué reto de la humanidad solucionarÃas primero?
El cambio climático.
Tienes unas gafas que te permiten ver el mundo dentro de diez años, ¿qué ves al ponértelas?
No el que veo, el que me gustarÃa ver. En el libro Manna: Two Visions of Humanity’s Future, que os recomiendo, se presentan dos futuros posibles en relación con la inteligencia artificial: uno negativo, con desigualdad, esclavización y los riesgos asociados a la automatización; y otro positivo, que representa la utopÃa. Me gustarÃa ver este último.
Cierre de Innoverse
El desarrollo de herramientas de inteligencia artificial generativa puede marcar un antes y un después en nuestra relación con la tecnologÃa. Muchas personas creativas podrán sacar adelante sus ideas de manera mucho más sencilla. Que esto se traduzca en beneficios reales para la humanidad es algo que debemos resolver más pronto que tarde. Es necesario plantear y responder cuanto antes las cuestiones éticas que plantea este tipo de herramientas.
Precisamente la revolución que suponen la inteligencia artificial y la computación cuántica ha protagonizado nuestro último Future Trends Forum. En este encuentro, expertos de talla mundial han analizado el impacto que tendrá sobre nuestras vidas la conjunción de estas dos tecnologÃas. Si te interesa el tema, no dudes en visitar nuestra web o leer directamente el informe Quantum Computing e Inteligencia Artificial: La Revolución Silenciosa.
