En los últimos días, Google ha estado enfrentando una gran cantidad de críticas debido a las respuestas extrañas y engañosas que su herramienta de inteligencia artificial (IA) llamada AI Overview ha estado proporcionando a los usuarios. Esta función, lanzada en mayo de 2023, tiene como objetivo proporcionar respuestas rápidas y precisas a las preguntas de los usuarios, pero en lugar de eso, ha generado una gran cantidad de respuestas inexactas y absurdas.

El Problema de la Fiabilidad

Uno de los principales problemas con AI Overview es su falta de fiabilidad. La herramienta ha sido criticada por proporcionar respuestas que no solo son inexactas, sino también peligrosas. Por ejemplo, algunos usuarios han reportado que la herramienta les ha sugerido que pongan pegamento en su pizza o que coman rocas. Estas respuestas no solo son ridículas, sino que también pueden ser dañinas si se toman en serio.

La Reacción de Google

En respuesta a las críticas, Google ha emitido un comunicado en el que afirma que está tomando «acciones rápidas» para corregir los errores y desarrollar mejoras más amplias. Sin embargo, la empresa también ha defendido su herramienta, afirmando que la mayoría de las respuestas proporcionadas por AI Overview son de alta calidad y precisas.

El Problema de la Parcialidad

Otro problema que se ha planteado es la parcialidad en la construcción de los modelos de lenguaje de AI Overview. Algunos críticos han argumentado que los trabajadores de Google con inclinaciones políticas izquierdistas han tenido una influencia desproporcionada en la cultura de la empresa, lo que a su vez puede afectar la forma en que se construyen los modelos de lenguaje.

La Comparación con Meta

Este no es el primer caso de una herramienta de IA que proporciona respuestas extrañas y engañosas. En 2022, Meta lanzó una herramienta de IA llamada Galactica, que tuvo que ser retirada poco después de su lanzamiento debido a que proporcionaba respuestas peligrosas, como sugerir a los usuarios que coman vidrio.

El Futuro de AI Overview

A pesar de los problemas actuales, Google tiene planes ambiciosos para AI Overview. La empresa planea agregar funcionalidades como razonamiento multietapa para consultas complejas, la capacidad de generar páginas de resultados organizadas por IA y búsqueda de video en Google Lens. Sin embargo, es importante que la empresa aborde los problemas actuales antes de seguir adelante con sus planes.