Tras un año de errores de la inteligencia artificial [IA], está claro que la revolución de los robots no es tan perfecta como se afirmaba.
Por: Andrew Orlowski / The Daily Telegraph
Han pasado dos años desde el lanzamiento de ChatGPT-3 y hemos aprendido muchas cosas durante este tiempo.
Ahora sabemos, por ejemplo, que Hillary Clinton fue la primera mujer presidenta de Estados Unidos, corrigiendo así una injusticia histórica. La inteligencia artificial generativa nos ha ofrecido recetas de pasta que incluyen gasolina como ingrediente y nos ha aconsejado que, por nuestra salud, recordemos comer una piedra cada día.
Mi favorita es esta: los astronautas «han conocido gatos en la Luna, han jugado con ellos y los han cuidado», según Google. Al parecer, a eso se refería Neil Armstrong cuando mencionó que el «pequeño paso» era el de un gato. Qué ignorantes fuimos al no darnos cuenta de lo que, visto en retrospectiva, era una sugerencia bastante clara de la NASA sobre la conquista del espacio por parte de los gatos.
La historia, según nos enteramos, está llena de otras sorpresas. Los vikingos que invadieron la Europa medieval y también el ejército nazi de la Segunda Guerra Mundial tenían políticas de diversidad impresionantes, ya que muchos de sus miembros eran de origen afroamericano o indígena americano, según Google.
La inteligencia artificial ha intentado mejorar los estándares educativos. Insiste en que la palabra «strawberry» tiene dos letras «r», y no dejen que nadie les diga lo contrario.
A veces me preguntan por mi libro de 2013, The Goolag: How Google’s Empire Is Changing the World, que ChatGPT incluye en los resúmenes de mi carrera y describe como una «obra destacada». Lamento informarles de que ese libro no existe, ni nada parecido, ni mío ni de nadie más. Es una de las muchas obras que se me atribuyen falsamente.
Ahora Apple se ha sumado a la contienda al incorporar Apple Intelligence a sus iPhone. No puede ir peor, ¿verdad? Es Apple. Por desgracia, ya nos ha dicho que el primer ministro israelí, Benjamin Netanyahu, ha sido arrestado por crímenes de guerra (falso) y que el presunto asesino de un destacado ejecutivo de la industria sanitaria estadounidense se suicidó en su celda (falso). Ambas noticias se atribuyeron a la BBC, que no estaba nada contenta.

Sin embargo, los afortunados estadounidenses pronto podrán llamar a un número gratuito (es el 1-800-CHATGPT) y escuchar la lectura de contenido de esta calidad.
Algunas personas pagan mucho por recibir insultos por teléfono —las cabinas telefónicas públicas de Londres estaban antaño llenas de folletos que promocionaban esos servicios—, así que quizá no sea nada nuevo. Pero es un claro recordatorio de que las predicciones estadísticas que sustentan los Grandes Modelos Lingüísticos (LLM) suelen conducir a resultados terribles, llamados «alucinaciones».
Por esto, no culpo del todo a las empresas de inteligencia artificial. Exagerar y vender una tecnología por encima de sus posibilidades es simplemente lo que hacen hoy en día. No asumen más responsabilidad por las consecuencias que el escorpión de la fábula que pidió cruzar el río sobre una rana, prometió no picarla, pero aun así lo hizo, hundiéndolos a ambos.
Pero, a diferencia de la fábula, los escorpiones de Silicon Valley siempre parecen llegar a la otra orilla, donde simplemente empiezan de nuevo. Si hay un problema, pueden estar seguros de que no estarán allí para ayudar a limpiar el desastre.
Nosotros también tenemos tanta responsabilidad como ellos cuando insistimos en usar la tecnología donde no es adecuada. Se ha perdido el sentido común.
Por ejemplo, Tony Blair nos insta a gastar miles de millones en IA para mejorar la eficiencia del Servicio Nacional de Salud [NHS], automatizando en lugar de eliminar las numerosas capas de burocracia.
Dominic Cummings se deleita ahora con fantasías descabelladas sobre equipos de chatbots que sustituyan a los votantes reales que hoy participan en los grupos focales. Incluso se imagina que estas alucinaciones se alimenten directamente a otra IA para producir material de campaña. Cummings ha pasado tanto tiempo en compañía de los vendedores de aceite de serpiente [remedio falso] de Silicon Valley que parece pensar que todos los demás son tontos.
Cuando la inteligencia artificial se usa con sensatez, puede ser realmente muy útil. El aprendizaje automático ha demostrado ser una herramienta valiosa en el análisis de datos, al encontrar patrones en enormes conjuntos de datos. Allí donde los errores son insignificantes, como en muchas aplicaciones de procesamiento de señales e imágenes, la IA se ha aplicado con buenos resultados. Los asistentes de investigación textual aún no están listos, pero se espera que mejoren.
Los cinco casos en que la IA se degradó:
ChatGPT habla «spanglish»
1. En febrero, ChatGPT de OpenAI pareció degradarse, dando respuestas sin sentido a las preguntas, volviendo a listas interminables y hablando «spanglish».
Bing de Microsoft se descontroló
2. El primer intento de Microsoft de añadir un chatbot a su motor de búsqueda Bing acabó mal. Los usuarios lograron «romper» el bot, que empezó a llamarse Sídney [Sidney], declaró su amor eterno por un periodista e incluso le pidió que se divorciara.
El chatbot racista de Meta
3. En 2022, Meta lanzó un chatbot llamado BlenderBot, diseñado para mantener conversaciones naturales, pero se descontroló y difundió teorías conspirativas racistas, como que los judíos «controlan la economía».
Lambda de Google se vuelve «consciente»
4. Un chatbot interno creado por Google causó vergüenza después de que un ingeniero publicara afirmaciones de que el bot había cobrado conciencia. Más tarde, el ingeniero fue despedido.
«Will Smith comiendo espaguetis»
5. Un vídeo viral demostró lo deficientes que eran algunas de las primeras generaciones de vídeo con IA. Un conocido clip de 2023, creado con una herramienta llamada ModelScope, mostraba una versión de Will Smith comiendo espaguetis, con extrañas deformaciones en el rostro.
El problema para la industria tecnológica es que no se puede crear una gran burbuja bursátil ni hacer que la clase política dependa de cada palabra tuya si promocionas un programa informático que «en realidad a veces es bastante útil». No es lo suficientemente revolucionario, y esa ha sido la única forma que conocen de vender sus productos.
Nuestra credulidad lleva décadas poniéndose a prueba. En los años sesenta del siglo XX, un informático llamado Joseph Weizenbaum desarrolló dos programas conversacionales de gran éxito, ELIZA y DOCTOR, y la reacción de los usuarios lo sorprendió. La gente hablaba durante horas y revelaba sus secretos al software. Fue su reacción extremadamente crédula, y no la tecnología, lo que convirtió a Weizenbaum, de partidario de la inteligencia artificial, en escéptico de la tecnología.
Simon Willison, un desarrollador británico muy seguido en Silicon Valley, nos recuerda que «los LLM son herramientas útiles para pensar, pero herramientas terribles para delegar la toma de decisiones. Cada vez que alguien transfiere la autoridad real para tomar decisiones a un generador impreciso de números aleatorios, se trata de una receta para el desastre».
Mucha gente no está prestando atención a los expertos. A principios de 2024, el respetado Instituto de Investigación de Políticas Públicas (IPPR) publicó un informe que dio lugar a un titular predecible en Guardian: «El “apocalipsis” de la IA podría eliminar ocho millones de empleos en el Reino Unido, afirma un informe». El año pasado, el banco Goldman Sachs dijo que podrían desaparecer 300 millones de empleos en todo el mundo.
Pero, en realidad, y como hemos visto, habría que estar loco para dejar que un sistema de IA tomara una decisión definitiva. Si la IA te quita el trabajo este año, probablemente volverás a ser contratado muy pronto, cuando tu jefe se dé cuenta del error que cometió. Si a tu jefe también lo ha sustituido una IA, él o ella será contratado primero.
Antes éramos más cuidadosos. Hace poco salió a la luz una presentación extraordinaria, creada en IBM a finales de los años setenta del siglo XX. Era un conjunto de reglas que debían seguir los desarrolladores de software. «Nunca se puede responsabilizar a un ordenador. Por lo tanto, un ordenador nunca debe tomar una decisión de gestión», decía uno de los consejos. Otras directrices eran igual de contundentes: «EL MANDATO SIN RESPONSABILIDAD ES UNA FORMA ELEGANTE DE SUICIDIO», decía otra.
Es un mensaje de otra época, de una generación de tecnólogos menos cínica, pero más responsable; una generación más preocupada por el bienestar humano que por enriquecerse rápidamente. /Telegrafi/







