Los riesgos que plantea la inteligencia artificial pueden parecer abrumadores. ¿Qué ocurre con las personas que pierden su empleo a manos de una máquina inteligente? ¿Podría la IA influir en los resultados de unas elecciones? ¿Y si una IA futura decide que ya no necesita a los humanos y quiere eliminarnos?.
Todas estas son preguntas válidas, y las preocupaciones que plantean deben tomarse en serio. Pero hay buenas razones para creer que podemos afrontarlas: no es la primera vez que una innovación importante introduce nuevas amenazas que deben controlarse. Ya lo hemos hecho antes.
Ya sea la llegada de los automóviles o el auge de las computadoras personales e Internet, la humanidad ha superado otros momentos de transformación y, a pesar de las dificultades, ha salido beneficiada. Poco después de que los primeros automóviles circularan por las carreteras, se produjo el primer accidente de tráfico. Pero no prohibimos los automóviles; adoptamos límites de velocidad, normas de seguridad, requisitos para obtener la licencia de conducir, leyes contra la conducción bajo los efectos del alcohol y otras normas de circulación.
Nos encontramos en la fase inicial de otro cambio profundo: la era de la IA. Es similar a aquellos tiempos de incertidumbre previos a la llegada de los límites de velocidad y los cinturones de seguridad. La IA está evolucionando tan rápidamente que no está claro qué sucederá a continuación. Nos enfrentamos a grandes interrogantes sobre el funcionamiento de la tecnología actual, las formas en que se utilizará con malas intenciones y cómo la IA nos transformará como sociedad y como individuos.
En un momento como este, es natural sentirse inquieto. Pero la historia demuestra que es posible resolver los desafíos que plantean las nuevas tecnologías.
Ya he escrito anteriormente sobre cómo la IA revolucionará nuestras vidas. Ayudará a resolver problemas —en salud, educación, cambio climático y otros ámbitos— que antes parecían irresolubles. La Fundación Gates le está dando prioridad, y nuestro director ejecutivo, Mark Suzman, compartió recientemente su visión sobre su papel en la reducción de la desigualdad.
En el futuro hablaré con más detalle sobre los beneficios de la IA, pero en esta publicación quiero abordar las preocupaciones que escucho y leo con mayor frecuencia, muchas de las cuales comparto, y explicar mi punto de vista al respecto.
Una cosa que queda clara de todo lo que se ha escrito hasta ahora sobre los riesgos de la IA —y se ha escrito mucho— es que nadie tiene todas las respuestas. Otra cosa que me queda clara es que el futuro de la IA no es tan sombrío como algunos piensan ni tan prometedor como otros. Los riesgos son reales, pero soy optimista y creo que se pueden gestionar. A medida que aborde cada una de estas preocupaciones, retomaré algunos temas:
Muchos de los problemas causados por la IA tienen precedentes históricos. Por ejemplo, tendrá un gran impacto en la educación, pero lo mismo ocurrió con las calculadoras de mano hace unas décadas y, más recientemente, con la introducción de ordenadores en las aulas. Podemos aprender de lo que ha funcionado en el pasado.
Muchos de los problemas causados por la IA también pueden gestionarse con la ayuda de la IA.
Tendremos que adaptar las leyes antiguas y adoptar otras nuevas, del mismo modo que las leyes existentes contra el fraude tuvieron que adaptarse al mundo digital.
En esta publicación, me centraré en los riesgos que ya existen o que pronto surgirán. No abordaré qué sucederá cuando desarrollemos una IA capaz de aprender cualquier materia o tarea, a diferencia de las IA diseñadas para fines específicos que existen hoy en día. Ya sea que lleguemos a ese punto en una década o en un siglo, la sociedad tendrá que enfrentarse a preguntas trascendentales. ¿Qué pasaría si una superIA estableciera sus propios objetivos? ¿Y si estos entraran en conflicto con los de la humanidad? ¿Deberíamos siquiera crear una superIA?-
Pero pensar en estos riesgos a largo plazo no debe ir en detrimento de los más inmediatos. Abordaré estos últimos ahora.
Los deepfakes y la desinformación generados por la IA podrían socavar las elecciones y la democracia.
La idea de que la tecnología puede usarse para difundir mentiras y falsedades no es nueva. La gente lo ha hecho con libros y folletos durante siglos. Se simplificó enormemente con la llegada de los procesadores de texto, las impresoras láser, el correo electrónico y las redes sociales.
La IA toma este problema de los textos falsos y lo amplía, permitiendo que prácticamente cualquiera cree audio y video falsos , conocidos como deepfakes. Si recibes un mensaje de voz que suena como si tu hijo dijera: "Me han secuestrado, por favor, envía 1000 dólares a esta cuenta bancaria en los próximos 10 minutos y no llames a la policía", tendrá un impacto emocional terrible, mucho mayor que el de un correo electrónico con el mismo mensaje.
A mayor escala, los deepfakes generados por IA podrían usarse para intentar influir en unas elecciones. Claro que no se necesita tecnología sofisticada para sembrar dudas sobre el ganador legítimo, pero la IA lo facilitará.
Ya existen vídeos falsos con imágenes manipuladas de políticos conocidos. Imagínese que, la mañana de unas elecciones importantes, se viraliza un vídeo de uno de los candidatos robando un banco. Es falso, pero los medios de comunicación y la campaña tardan varias horas en demostrarlo. ¿Cuántas personas lo verán y cambiarán su voto en el último momento? Podría ser decisivo, sobre todo en unas elecciones muy reñidas.
Cuando Sam Altman, cofundador de OpenAI, testificó recientemente ante un comité del Senado estadounidense, los senadores de ambos partidos se centraron en el impacto de la IA en las elecciones y la democracia. Espero que este tema siga ganando importancia en la agenda de todos.
Sin duda, no hemos resuelto el problema de la desinformación y los deepfakes. Pero dos cosas me hacen ser cautelosamente optimista. Una es que la gente es capaz de aprender a no creer todo a primera vista. Durante años, los usuarios de correo electrónico cayeron en estafas donde alguien que se hacía pasar por un príncipe nigeriano prometía una gran recompensa a cambio de compartir el número de tarjeta de crédito. Pero con el tiempo, la mayoría aprendió a mirar dos veces esos correos electrónicos. A medida que las estafas se volvieron más sofisticadas, también lo hicieron muchas de sus víctimas. Necesitaremos desarrollar la misma capacidad para combatir los deepfakes.
Otro aspecto que me da esperanza es que la IA puede ayudar a identificar los deepfakes, además de crearlos. Intel, por ejemplo, ha desarrollado un detector de deepfakes , y la agencia gubernamental DARPA está trabajando en tecnología para identificar si se ha manipulado un vídeo o un audio.
Será un proceso cíclico: alguien descubre cómo detectar el engaño, otro encuentra la manera de contrarrestarlo, otro desarrolla contramedidas, y así sucesivamente. No será un éxito rotundo, pero tampoco estaremos indefensos.
La IA facilita el lanzamiento de ataques contra personas y gobiernos.
Hoy en día, cuando los hackers buscan vulnerabilidades en el software, lo hacen mediante la fuerza bruta: escriben código que ataca repetidamente las posibles debilidades hasta encontrar una forma de entrar. Esto implica recorrer muchos callejones sin salida, lo que significa que requiere tiempo y paciencia.
Los expertos en seguridad que quieren contrarrestar a los hackers tienen que hacer lo mismo. Cada actualización de software que instalas en tu teléfono o computadora portátil representa muchas horas de búsqueda, por parte de personas con buenas y malas intenciones.
Los modelos de IA acelerarán este proceso al ayudar a los hackers a escribir código más eficaz. También podrán utilizar información pública sobre las personas, como su lugar de trabajo y sus amistades, para desarrollar ataques de phishing más sofisticados que los que vemos hoy en día.
La buena noticia es que la IA puede usarse tanto para fines buenos como malos. Los equipos de seguridad del gobierno y del sector privado necesitan contar con las herramientas más avanzadas para detectar y corregir fallos de seguridad antes de que los delincuentes puedan aprovecharlos. Espero que la industria de la seguridad del software amplíe el trabajo que ya realiza en este ámbito; debería ser una prioridad para ellos.
Por eso mismo no debemos intentar impedir temporalmente que se implementen nuevos avances en IA, como algunos han propuesto. Los ciberdelincuentes no dejarán de crear nuevas herramientas. Tampoco lo harán quienes pretenden usar la IA para diseñar armas nucleares y perpetrar ataques bioterroristas. El esfuerzo por detenerlos debe continuar al mismo ritmo.
Existe un riesgo relacionado a nivel global: una carrera armamentística por la IA que podría utilizarse para diseñar y lanzar ciberataques contra otros países. Todos los gobiernos desean contar con la tecnología más potente para disuadir los ataques de sus adversarios. Este incentivo para evitar que nadie tome la delantera podría desencadenar una carrera por crear ciberarmas cada vez más peligrosas. Todos saldrían perjudicados.
Es una idea aterradora, pero la historia nos sirve de guía. Si bien el régimen mundial de no proliferación nuclear tiene sus defectos, ha evitado la guerra nuclear total que tanto temía mi generación al crecer. Los gobiernos deberían considerar la creación de un organismo global para la IA similar al Organismo Internacional de Energía Atómica .
La IA eliminará los puestos de trabajo.
En los próximos años, el principal impacto de la IA en el trabajo será ayudar a las personas a realizar sus tareas de forma más eficiente. Esto se aplicará tanto a quienes trabajan en una fábrica como a quienes gestionan llamadas de ventas y cuentas por pagar en una oficina. Con el tiempo, la IA será lo suficientemente buena expresando ideas como para redactar correos electrónicos y administrar la bandeja de entrada. Podrás escribir una solicitud en lenguaje natural, o en cualquier otro idioma, y generar una presentación completa sobre tu trabajo.
Como argumenté en mi publicación de febrero, el aumento de la productividad beneficia a la sociedad. Permite que las personas tengan más tiempo para otras actividades, tanto en el trabajo como en casa. Además, la demanda de personas que ayudan a los demás —como docentes, cuidadores de pacientes y personas mayores— nunca desaparecerá. Sin embargo, es cierto que algunos trabajadores necesitarán apoyo y capacitación durante esta transición hacia un entorno laboral impulsado por la IA. Esta es una responsabilidad de los gobiernos y las empresas, quienes deberán gestionarla adecuadamente para que los trabajadores no se queden atrás y evitar así la disrupción en la vida de las personas que se produjo durante el declive del empleo manufacturero en Estados Unidos.
Además, cabe recordar que no es la primera vez que una nueva tecnología provoca un cambio radical en el mercado laboral. No creo que el impacto de la IA sea tan drástico como el de la Revolución Industrial, pero sin duda será tan significativo como la llegada del ordenador personal. Las aplicaciones de procesamiento de textos no eliminaron el trabajo de oficina, pero lo transformaron para siempre. Empleadores y empleados tuvieron que adaptarse, y lo hicieron. La transición provocada por la IA será compleja, pero hay motivos para creer que podemos minimizar las repercusiones en la vida y el sustento de las personas.
La IA hereda nuestros prejuicios e inventa cosas.
Las alucinaciones —el término que se usa cuando una IA afirma con seguridad algo que simplemente no es cierto— suelen ocurrir porque la máquina no comprende el contexto de tu solicitud. Si le pides a una IA que escriba un cuento sobre unas vacaciones en la luna, podría darte una respuesta muy imaginativa. Pero si le pides que te ayude a planificar un viaje a Tanzania, podría intentar enviarte a un hotel que no existe.
Otro riesgo de la inteligencia artificial es que refleje o incluso agrave los prejuicios existentes contra personas de determinadas identidades de género, razas, etnias, etc.
Para comprender por qué se producen las alucinaciones y los sesgos cognitivos, es importante saber cómo funcionan los modelos de IA más comunes en la actualidad. Básicamente, son versiones muy sofisticadas del código que permite a tu aplicación de correo electrónico predecir la siguiente palabra que vas a escribir: analizan enormes cantidades de texto —prácticamente todo lo que está disponible en línea, en algunos casos— y lo estudian para encontrar patrones en el lenguaje humano.
Cuando le haces una pregunta a una IA, esta analiza las palabras que usaste y luego busca fragmentos de texto que suelen estar asociados a ellas. Si escribes "enumera los ingredientes para hacer panqueques", podría notar que las palabras "harina, azúcar, sal, levadura en polvo, leche y huevos" aparecen con frecuencia en esa frase. Luego, basándose en el orden en que suelen aparecer esas palabras, genera una respuesta. (Los modelos de IA que funcionan de esta manera utilizan lo que se conoce como transformador. GPT-4 es un ejemplo de ello).
Este proceso explica por qué una IA podría experimentar alucinaciones o parecer parcial. No tiene contexto para las preguntas que le haces ni para la información que le proporcionas. Si le dices que cometió un error, podría responder: «Perdón, me equivoqué al escribir». Pero eso es una alucinación; no escribió nada. Simplemente dice eso porque ha analizado suficiente texto como para saber que «Perdón, me equivoqué al escribir» es una frase que la gente suele escribir después de que alguien la corrige.
De igual modo, los modelos de IA heredan los prejuicios inherentes al texto con el que se entrenan. Si se lee mucho sobre, por ejemplo, médicos, y el texto menciona principalmente a médicos varones, sus respuestas asumirán que la mayoría de los médicos son hombres.
Aunque algunos investigadores creen que las alucinaciones son un problema inherente, no estoy de acuerdo. Soy optimista y creo que, con el tiempo, se podrá enseñar a los modelos de IA a distinguir la realidad de la ficción. OpenAI, por ejemplo, está realizando un trabajo prometedor en este sentido.
Otras organizaciones, como el Instituto Alan Turing y el Instituto Nacional de Estándares y Tecnología , están trabajando en el problema del sesgo. Un enfoque consiste en incorporar valores humanos y razonamiento de alto nivel a la IA. Es similar al funcionamiento de un ser humano consciente de sí mismo: quizás se dé por sentado que la mayoría de los médicos son hombres, pero se es lo suficientemente consciente de esta suposición como para saber que hay que combatirla intencionadamente. La IA puede funcionar de manera similar, especialmente si los modelos son diseñados por personas de diversos orígenes.
Finalmente, todo aquel que utilice IA debe ser consciente del problema del sesgo y convertirse en un usuario informado. El ensayo que le pidas a una IA que redacte podría estar plagado de prejuicios, además de errores fácticos. Deberás verificar tanto los sesgos de tu IA como los tuyos propios.
Los estudiantes no aprenderán a escribir porque la IA hará el trabajo por ellos.
Muchos profesores están preocupados por cómo la IA podría perjudicar su trabajo con los alumnos. En una época en la que cualquiera con acceso a internet puede usar la IA para escribir un primer borrador aceptable de un ensayo, ¿qué impedirá que los alumnos lo presenten como propio?.
Ya existen herramientas de IA que aprenden a distinguir si un texto fue escrito por una persona o por una computadora, lo que permite a los profesores saber cuándo sus alumnos no realizan su propio trabajo. Sin embargo, algunos profesores no intentan impedir que sus alumnos utilicen la IA en sus escritos, sino que, de hecho, la fomentan.
En enero, Cherie Shields, una experimentada profesora de inglés, escribió un artículo en Education Week sobre cómo utiliza ChatGPT en su clase. Esta herramienta ha ayudado a sus alumnos en todo, desde comenzar a escribir un ensayo hasta elaborar esquemas e incluso darles retroalimentación sobre su trabajo.
«Los docentes tendrán que adoptar la tecnología de IA como una herramienta más a la que los estudiantes tendrán acceso», escribió. «Así como antes enseñábamos a los estudiantes a realizar una búsqueda correcta en Google, los docentes deberían diseñar lecciones claras sobre cómo el bot ChatGPT puede ayudar con la redacción de ensayos. Reconocer la existencia de la IA y ayudar a los estudiantes a trabajar con ella podría revolucionar nuestra forma de enseñar». No todos los docentes tienen el tiempo para aprender y usar una nueva herramienta, pero educadores como Cherie Shields argumentan con razón que quienes sí lo tengan se beneficiarán enormemente.
Me recuerda a la época en que las calculadoras electrónicas se popularizaron en las décadas de 1970 y 1980. Algunos profesores de matemáticas temían que los alumnos dejaran de aprender aritmética básica, pero otros adoptaron la nueva tecnología y se centraron en las habilidades de razonamiento que subyacen a la aritmética.
Existe otra forma en que la IA puede ayudar con la escritura y el pensamiento crítico. Especialmente en estos inicios, cuando las alucinaciones y los sesgos aún son un problema, los educadores pueden usar la IA para generar artículos y luego trabajar con sus estudiantes para verificar la información. Organizaciones educativas sin fines de lucro como Khan Academy y OER Project , que financio, ofrecen a docentes y estudiantes herramientas en línea gratuitas que hacen gran hincapié en la comprobación de afirmaciones. Pocas habilidades son más importantes que saber distinguir lo verdadero de lo falso.
Es fundamental asegurarnos de que el software educativo contribuya a reducir la brecha de rendimiento académico, en lugar de agravarla. El software actual se centra principalmente en potenciar a los estudiantes que ya están motivados. Puede elaborar un plan de estudio, recomendar recursos útiles y evaluar los conocimientos. Sin embargo, aún no sabe cómo despertar el interés por temas que no son de interés previo. Este es un problema que los desarrolladores deberán resolver para que estudiantes de todo tipo puedan beneficiarse de la IA.
¿Qué sigue?
Creo que hay más razones que motivos para ser optimistas y creer que podemos gestionar los riesgos de la IA a la vez que maximizamos sus beneficios. Pero debemos actuar con rapidez.
Los gobiernos necesitan desarrollar conocimientos especializados en inteligencia artificial para poder elaborar leyes y reglamentos fundamentados que respondan a esta nueva tecnología. Tendrán que lidiar con la desinformación y las falsificaciones profundas (deepfakes), las amenazas a la seguridad, los cambios en el mercado laboral y el impacto en la educación. Por citar solo un ejemplo: la ley debe ser clara sobre qué usos de las falsificaciones profundas son legales y cómo deben etiquetarse para que todos entiendan cuándo algo que ven o escuchan no es auténtico.
Los líderes políticos deberán estar preparados para mantener un diálogo informado y reflexivo con sus electores. También deberán decidir hasta qué punto colaborar con otros países en estos temas y en qué medida actuar en solitario.
En el sector privado, las empresas de IA deben desarrollar su trabajo de forma segura y responsable. Esto incluye proteger la privacidad de las personas, garantizar que sus modelos de IA reflejen valores humanos básicos, minimizar los sesgos, extender los beneficios al mayor número de personas posible y evitar que la tecnología sea utilizada por delincuentes o terroristas. Las empresas de muchos sectores de la economía deberán ayudar a sus empleados a adaptarse a un entorno laboral centrado en la IA para que nadie se quede atrás. Además, los clientes siempre deben saber cuándo interactúan con una IA y no con un ser humano.
Finalmente, animo a todos a seguir de cerca los avances en IA. Es la innovación más transformadora que veremos en nuestra vida, y un debate público constructivo dependerá de que todos conozcan la tecnología, sus beneficios y sus riesgos. Los beneficios serán enormes, y la mejor razón para creer que podemos gestionar los riesgos es que ya lo hemos hecho antes.
https://www.gatesnotes.com/meet_bill/tech_thinking/reader/the_risks_of_ai_are_real_but_manageable
