Google da marcha atrás y pone restricciones a su IA tras muchos desvaríos y locuras

En un post publicado este jueves, la compañía ha reconocido una serie de flagrantes errores en el sistema de búsqueda potenciado por IA, ha explicado los motivos y señalado algunas decisiones que ha tomado al respecto.

Pero ojo, también han aprovechado para recordar que muchas de estas capturas de pantalla de supuestos resultados de Google, eran falsas, como una en la que Google supuestamente recomendaba fumar dos o tres cigarrillos a mujeres embarazadas: «En la última semana, personas en las redes sociales han compartido algunas reseñas extrañas y erróneas (junto con una gran cantidad de capturas de pantalla falsas)».

Aun así, desde Google reconocen cierta incapacidad de AI Overview para proveer información veraz. «Ciertamente aparecieron algunas descripciones generales de IA extrañas, inexactas o inútiles y, aunque generalmente eran para consultas que la gente no suele hacer, resaltaron algunas áreas específicas que necesitábamos mejorar», indican desde la empresa. Un ejemplo es la consulta ¿Cuántas rocas debería comerme?, que pilló in fraganti a Google dado que «prácticamente nadie» había hecho esa pregunta con anterioridad.

En general, desde la compañía atribuyen el problema a que, si bien habían realizado exhaustivas pruebas antes de lanzar la función, los usuarios enviaron consultas inauditas a Google, precisamente para llevar el modelo al límite. Es decir, los trolls han ganado esta batalla al lograr hacer saltar las costuras de la herramienta. Además, reconocen que para este tipo de preguntas poco frecuentes, el sistema acabó recurriendo a información obtenida de foros y otras fuentes no fiables.

«Vimos descripciones generales de IA que presentaban contenido sarcástico o troll en foros de discusión. Los foros suelen ser una gran fuente de información auténtica y de primera mano, pero en algunos casos pueden dar lugar a consejos poco útiles, como usar pegamento para hacer que el queso se adhiera a la pizza», indican. Se cree que muchas de estas respuestas pueden venir de Reddit, en marco del acuerdo que Google firmó con esa plataforma para entrenar a su IA con el contenido del foro estadounidense.

Introducen 4 mejoras para las AI Overview

En este contexto, desde el buscador han implementado cuatro cambios para tratar de mejorar las respuestas de la IA, o al menos, limitar las respuestas de carácter surrealista. Estas modificaciones son:

• Mejora de los mecanismos de detección para consultas sin sentido que no deberían mostrar una descripción general de IA, y limitación de contenido satírico y humorístico.
• Limitación al uso de contenido generado por usuarios [como en foros] en respuestas que podrían ofrecer consejos engañosos.
• Omisión de las AI Overview para consultas en las que las descripciones generales de IA no resultan tan útiles.
• Sobre las barreras de seguridad ya implementadas, aplicación de nuevos límites cuando las consultas traten temas de salud.

Pese a todo ello, desde Google insisten en que el ratio de respuestas de IA correctas sigue mostrando una alta eficiencia, asegurando que encuentran «una infracción de la política de contenido en menos de una de cada 7 millones de consultas únicas en las que aparecían AI Overviews».

A Google no le ha quedado más remedio que admitir que, pese a sus grandes esfuerzos en la revisión de la herramienta durante la fase prelanzamiento, las consultas bizarras de billones de usuarios han sido capaces de mostrar los puntos débiles del sistema. «Seguiremos mejorando cuándo y cómo mostramos descripciones generales de IA y fortaleciendo nuestras protecciones, incluso para casos extremos, y estamos muy agradecidos por los comentarios continuos», concluyen.

AI Overviews no está disponible todavía en Europa, aunque es previsible que pueda llegar en algún momento en el futuro tras una mayor experiencia dentro del mercado norteamericano. Esto, en caso de que la función no entre en conflicto con la norma europea de servicios digitales.