Google lanzó su última función de búsqueda experimental en Chrome, Firefox y el navegador de aplicacione para cientos de millones de usuarios. “AI Overviews” te ahorra hacer clic en enlaces mediante el uso de inteligencia artificial generativa, la misma tecnología que impulsa el producto rival ChatGPT, para proporcionar resúmenes de los resultados de búsqueda. Pregunta “cómo mantener los plátanos frescos por más tiempo” y utilizarás IA para generar un resumen útil de consejos sobre cómo almacenarlos en un lugar fresco y oscuro y lejos de otras frutas como las manzanas.
Pero si se hace una pregunta un poco más compleja o rara, los resultados pueden ser desastrosos o incluso peligrosos. Actualmente, Google está luchando por solucionar estos problemas uno por uno, pero es una crisis de relaciones públicas para el gigante de las búsquedas.
AI Overviews te dice útilmente que “Whack-A-Mole es un juego de arcade clásico en el que los jugadores usan un mazo para golpear topos que aparecen al azar y obtener puntos. El juego fue inventado en Japón en 1975 por el fabricante de entretenimiento TOGO y originalmente se llamaba Mogura Taiji o Mogura Tataki.
Perla IA de Google también le dice que “los astronautas conocieron gatos en la luna, jugaron con ellos y los cuidaron”. Lo que es más preocupante, también recomienda “comer al menos una piedra pequeña al día”, ya que “las piedras son una fuente vital de minerales y vitaminas”, y sugiere poner pegamento en la cobertura de la pizza.
Un problema fundamental es que las herramientas de IA generativa no saben lo que es verdad, sólo lo que es popular. Por ejemplo, no hay muchos artículos en la web sobre comer piedras, que evidentemente es una mala idea.
Sin embargo, hay un artículo satírico muy leído en The Onion sobre comer piedras. Y por eso la IA de Google basó su resumen en lo que era popular, no en lo que era cierto.
Otro problema es que las herramientas de IA generativa no tienen nuestros valores. Están entrenados en una gran parte de la web.
Y si bien se utilizan técnicas sofisticadas (que reciben nombres exóticos como “aprendizaje reforzado a partir de la retroalimentación humana” o RLHF) para eliminar lo peor, no sorprende que reflejen algunos de los prejuicios, teorías de conspiración y cosas peores que se pueden encontrar en la web. De hecho, siempre me sorprende lo educados y bien educados que son los chatbots de IA, teniendo en cuenta para qué están entrenados.
Si este es realmente el futuro de la búsqueda, entonces nos espera un viaje lleno de obstáculos. Google, por supuesto, se está poniendo al día con OpenAI y Microsoft.
Los incentivos financieros para liderar la carrera de la IA son inmensos. Por lo tanto, Google está siendo menos prudente que en el pasado al poner la tecnología en manos de los usuarios.
En 2023, el director ejecutivo de Google, Sundar Pichai, dijo:
Hemos sido cautelosos. Hay áreas en las que hemos elegido no ser los primeros en lanzar un producto. Hemos establecido buenas estructuras en torno a una IA responsable. Seguirás viendo cómo nos tomamos nuestro tiempo.
Esto ya no parece ser tan cierto, ya que Google responde a las críticas de que se ha convertido en un competidor grande y letárgico.
Es una estrategia arriesgada para Google. Se corre el riesgo de perder la confianza que el público tiene en que Google es el lugar donde encontrar respuestas (correctas) a sus preguntas.
Pero Google también corre el riesgo de socavar su propio modelo de negocio de miles de millones de dólares. Si ya no hacemos clic en los enlaces, simplemente leemos su resumen, ¿cómo sigue ganando dinero Google?
Los riesgos no se limitan a la IA de Google. Temo que ese uso de la inteligencia artificial pueda ser perjudicial para la sociedad en general. La verdad ya es una idea algo controvertida y fungible. Es probable que las mentiras de la IA empeoren la situación.
Dentro de una década, podremos mirar hacia atrás y ver el año 2024 como la edad de oro de la web, cuando la mayor parte era contenido de calidad generado por humanos, antes de que los bots tomaran el control y llenaran la web con contenido sintético y de calidad cada vez más baja generado por IA.
Para saber más: ¿Qué dice la Teoría del Internet Muerto?
Es probable que la segunda generación de grandes modelos lingüísticos se esté entrenando sin querer en algunos de los primeros resultados de la primera generación. Y muchas nuevas empresas de IA están promocionando los beneficios de la capacitación con datos sintéticos generados por IA.
Pero el entrenamiento con los desperdicios de los modelos actuales de IA corre el riesgo de amplificar incluso los sesgos y errores más pequeños. Así como respirar los gases de escape es malo para los humanos, también lo es para la IA.
Estas preocupaciones encajan en un panorama mucho más amplio. A nivel mundial, cada día se invierten más de 400 millones de dólares en IA. Y recién ahora los gobiernos están empezando a darse cuenta de la idea de que podríamos necesitar barreras de seguridad y regulaciones para garantizar que la IA se utilice de manera responsable, dado este torrente de inversiones.
Las compañías farmacéuticas no pueden lanzar medicamentos que sean dañinos. Tampoco las empresas de automóviles. Pero hasta ahora, a las firmas de tecnología se les ha permitido en gran medida hacer lo que quieran.
Toby Walsh, Professor of AI, Research Group Leader, UNSW Sydney
This article is republished from The Conversation under a Creative Commons license. Read the original article.
