Google ha justificado las respuestas incorrectas de AI Overview. Afirmó que algunas son resultado de “búsquedas sin sentido” destinadas a producir errores.
Sin embargo, reconoció que otras se deben a consultas en áreas donde necesita mejorar su precisión.
AI Overview es una función de Gemini. Ofrece respuestas rápidas con resúmenes creados por IA. Está disponible en Estados Unidos desde hace unas semanas.
LAS RESPUESTAS INCOHERENTES DE AI OVERVIEW
Es un experimento de Search Labs. Ha reemplazado a la Experiencia Generativa de Búsqueda (SGE).
Varios usuarios denunciaron respuestas incoherentes. Ejemplos incluyen “comer al menos una piedra pequeña al día”, atribuido a expertos en geología de la Universidad de Berkeley.
Kris Kashtanova reportó esto en X. Otro usuario, @heavenred, señaló que AI Overview recomendó echar pegamento no tóxico a la pizza para fundir el queso.
GOOGLE APUNTÓ A LAS CONSULTAS POCO COMUNES
Un portavoz de Google aseguró que su tecnología genera “información de alta calidad”. Dijo que las respuestas erróneas se debieron a “consultas poco comunes”.
Google ha prometido tomar “medidas rápidas” para solucionar problemas con AI Overview.
La vicepresidenta y jefa de Búsqueda de Google, Liz Reid, ha explicado el funcionamiento de las descripciones generales de IA.
UN FUNCIONAMIENTO DISTINTO A LOS CHATBOTS Y OTROS PRODUCTOS LLM
Reid señaló que los usuarios de AI Overviews están más satisfechos con los resultados de búsqueda. Dijo que hacen preguntas “más largas y complejas” porque confían en que Google les ayudará.
Aseguró que los clics a las páginas web son de mayor calidad. Los usuarios permanecen más tiempo en una página específica. Google ha mejorado en encontrar información correcta y útil.
La compañía aclaró que esta experiencia “funciona de forma muy distinta a los ‘chatbots’ y otros productos LLM”.
ASEGURAN QUE NO SE INVENTAN NI ALUCINAN DATOS
Además de resultados de texto, AI Overview incluye enlaces relevantes. Esto permite a los usuarios investigar más a fondo.
Google considera “primordial” la precisión en los resultados de AI Overview. Esta tecnología muestra información respaldada por los mejores resultados web.
A diferencia de otras herramientas, generalmente no inventa ni alucina datos.
SÓLIDOS ESFUERZOS DE INFORMACIÓN
La empresa ha explicado que la efectividad de su IA se debe a “sólidos esfuerzos de formación de equipos rojos, evaluaciones y pruebas”.
Sin embargo, reconoció que búsquedas novedosas realizadas por millones de personas pueden causar errores en las respuestas.
Google admitió que algunas descripciones generales fueron “extrañas, inexactas o inútiles”. Estos errores podrían deberse a consultas poco comunes o temas específicos que necesitan mejora.
CAPTURAS DE PANTALLAS FALSAS
A pesar de esto, insistió en que se han compartido muchas capturas de pantalla falsas con resultados engañosos.
Algunos ejemplos incluyen recomendaciones obvias y tontas, como fumar durante el embarazo.
MEDIDAS QUE ACABAN CON LAS RESPUESTAS INCORRECTAS
Para solucionar este problema, Google ha lanzado una serie de actualizaciones. Estas mejorarán la precisión en un amplio conjunto de consultas, incluidas las nuevas.
También eliminarán respuestas que no cumplan con sus políticas.
Google ha creado mejores mecanismos de detección para consultas sin sentido. Estas no deberían mostrar una descripción general de la IA.
SE LIMITÓ EL CONTENIDO SATÍRICO Y HUMORÍSTICO
Además, ha limitado la inclusión de contenido satírico y humorístico en los resultados.
La compañía ha actualizado sus sistemas para limitar el uso de contenido generado por usuarios. Esto evitará consejos engañosos.
También ha añadido restricciones para consultas donde las descripciones generales no fueron útiles.
Google ha reforzado las barreras de seguridad en temas como noticias y salud. No mostrará resúmenes de IA para noticias importantes. La actualidad y la precisión de estas son cruciales.
Fuente: EP.
