AI Overviews: Google está jugando a un juego peligroso
La nueva herramienta del gigante tecnológico responde a preguntas médicas. Los médicos estaban preocupados por las respuestas de WebMD. Su próxima pesadilla puede llamarse AIO.
AI Overviews: Google está jugando a un juego peligroso
Varios informes están señalando que el nivel de respuestas de AI Overviews (AIOs) en temas médicos es de los más altos. Por ejemplo, aquí en Substack:
“Googles anunció que mostraría AIO para consultas complejas, que es más probable que se produzcan en salud que en comercio electrónico. Encontré una débil relación con el número de palabras, lo que indica que las consultas más largas tienen más probabilidades de desencadenar AIO. Aún así, me sorprende encontrar tantas AIO en un espacio sensible como la salud, donde la información errónea es mucho más arriesgada.”
Fuente:
Realmente, sorprende, dada la rotundidad con la que Google ha estado afirmando que daría preponderancia en los resultados sólo a expertos médicos cuando se tratara de contenido relacionado con la salud.
Pero esto es un viejo problema, que podría verse en perspectiva:
Los médicos quieren, de verdad, que deje de buscar sus síntomas en Google
Los médicos a menudo aconsejan, a sus pacientes, que no busquen en Google las cuestiones médicas, y menos relativo a su enfermedad.
Porque la realidad es que ese monstruo de las búsquedas suele ser el primer puerto de escala para las personas que esperan encontrar la respuesta a cualquier pregunta relacionada con la salud, o sus síntomas.
La experiencia de asustarse por lo que la gente común encuentra en Internet en asuntos médicos es tan común que los investigadores ya tienen una palabra para designarla: cibercondría, término acuñado por primera vez en un artículo de la BBC en 2001. Fue adoptado posteriormente por los investigadores que estudian cómo Internet alimenta la ansiedad por la salud. Y hay mucha por ahí: una encuesta de Pew de 2013 reveló que algo más de un tercio de los adultos estadounidenses han recurrido a Internet para que les ayude a entender un problema de salud, mientras que Google señaló en una entrada de blog a principios de verano del 2016 que alrededor del uno por ciento de las búsquedas son sobre temas médicos.
Pero los resultados de googlear tiene consecuencias más allá de la propia psique estresada de todos, o algunos, de nosotros: A un nivel más amplio, está saturando el sistema sanitario, desviando el tiempo y los recursos de los médicos para examinar todos los pequeños moratones y resfriados que en realidad no necesitan atención médica.
No es de extrañar que la mayoría de los profesionales médicos no están demasiado contentos con la tendencia al autodiagnóstico. No es sólo una pérdida de control o un menoscabo de su autoridad por las búsquedas médicas en línea: puede confundir el proceso de diagnóstico, porque los resultados pueden sugerir a los pacientes afecciones raras o mórbidas, que a su vez pueden desencadenar la aparición de nuevos 'síntomas'". Y entonces llama a la consulta de su médico y concierta una cita, sólo para asegurarse de que esos síntomas no coinciden con lo que el paciente cree que podrían ser. Es mejor comprobar todas las posibilidades con el médico, sólo para estar seguros.
Los pacientes llegan a los consultorios y clínicas con lo que a veces se denomina una 'pila de Google': una pila de impresiones de la investigación en línea que han realizado y que les ha llevado a formarse sus propias opiniones médicas de aficionado. (Por otro lado entendible, dado el poco tiempo que tienen los médicos de los sistemas de salud público para dedicar a cada paciente, una vez se ha acabado de rellenar los datos en el ordenador).
Y muchas veces, esas opiniones se basan en información errónea: un estudio publicado en el BMJ el año 2015 concluyó que la mayoría de los usuarios que comprobaban los síntomas en línea acertaban el diagnóstico menos de la mitad de las veces.
Entra la Inteligencia Artificial
Si cuando los textos eran escritos por doctores reales implicaban conclusiones erróneas, los textos escritos por inteligencia artificial (que, con el tiempo, será un refrito de lo que otros sistemas de IA hayan escrito a su vez) no parece que vayan a ser mejor.
Un interesante artículo sobre ello ha sido escrito este mes en The Atlantic.
En esta pieza, recuerda que Google ha introducido una nueva función que le permite efectivamente hacer de médico. Aunque esta empresa lleva mucho tiempo incluyendo fragmentos de texto en la parte superior de sus resultados de búsqueda, la IA generativa está llevando ahora las cosas un paso más allá, afirma.
Desde este mes de mayo de 2024, como muchos de nosotros ya sabemos, Google está desplegando su función de "visión general de la IA" a todo el mundo en EE.UU., en uno de los mayores cambios de diseño de los últimos años.
Muchas búsquedas de Google devolverán una respuesta generada por la IA por encima de cualquier enlace a sitios externos, si el clamor popular en contra no hace desistir al gigante tecnológico en esta idea. Ya está respondiendo a preguntas sobre cáncer, infartos y Ozempic.
El articulo recuerda que en realidad, esto sigue siendo un chatbot. En sólo una semana, los usuarios de Google han señalado todo tipo de inexactitudes con la nueva herramienta de IA. Al parecer, ha afirmado que los perros han jugado en la NFL y que el presidente Andrew Johnson tenía 14 títulos de la Universidad de Wisconsin en Madison.
Las respuestas sobre salud no fueron una excepción, y aparecieron varias respuestas descaradamente falsas o francamente extrañas. Algunos ejemplos que el artículo ofrece son los siguientes:
Las piedras son seguras para comer.
El pollo se puede comer si alcanza los 102 grados.
(Hay más, desde luego, como el de aconsejar tirarse por una ventana si se tiene depresión).
Estos fallos de búsqueda pueden ser divertidos cuando son inofensivos. Pero, como afirma, cuando las preguntas más serias sobre salud reciben el tratamiento de la IA, Google está jugando un juego arriesgado.
Hasta ahora, los médicos estaban preocupados por las respuestas de WebMD. Su próxima pesadilla puede llamarse AIO.
Qué opinas? Te preocupan las respuestas de la IA de Google?
Buena información, gracias