From Muslim Obama to putting glue on pizza: Artificial intelligence is poisoning Google’s search engine

Imagina que estás en la cocina de tu cada preparando una pizza, pero al sacarla del horno el queso resbala y no se adhiere a la masa. No sabes qué hacer para que se mantenga pegado, así que acudes a Google. Ahí está toda la información que necesito, piensas. Sin embargo, cuando se lo preguntas al buscador los nuevos resúmenes generados con inteligencia artificial (IA) te sugieren que puedes añadir “aproximadamente 1/8 de taza pegamento no tóxico a la salsa para darle más pegajosidad”.

Eso es lo que le ha pasado esta semana a un usuario que estaba probando la nueva función habilitada por el gigante tecnológico. Hace 10 días, Google anunció al mundo que pasaba a integrar la IA en su popular motor de búsqueda, la puerta de entrada a Internet para miles de millones de personas. Eso se traduce en pequeños resúmenes que aparecen en la parte superior de la pantalla y que se nutren del contenido extraído de la red. “Puede quitarte un montón de trabajo duro”, prometió Liz Reid, responsable de ese negocio.

Sin embargo, el nuevo buscador no está funcionando como Google esperaba. Durante la última semana y media, decenas de usuarios en Estados Unidos han denunciado que la flamante novedad de la compañía amplifica bulos, se inventa datos o hechos históricos que nunca sucedieron y da por buena información que podría ser peligrosa, como la de la pizza.

“Completamente peligroso”

[–>

Esos problemas se deben, en gran parte, a que Gemini, la IA de Google, genera resúmenes en base a la ingente cantidad de información que extrae de Internet y no sabe distingir qué es cierto y qué no. Eso hace que sus respuestas simplificadas se sustenten en fuentes poco fiables. En el caso del pegamento y la pizza, por ejemplo, la compañía podría haber dado por bueno un comentario publicado en el foro Reddit hace 11 años por un usuario apodado ‘fucksmith’.

En las últimas horas, expertos en IA, periodistas tecnológicos y usuarios comunes están señalando problemas mayúsculos del buscador que van desde decir que solo 17 de los 42 presidentes de EEUU han sido blancos a indicar que Barack Obama es musulmán, una falsa conspiración popular entre la extrema derecha que fue amplificada por Donald Trump. “Es completamente peligroso”, ha lamentado Melanie Mitchell, catedrática de Complejidad en el Instituto Santa Fe.

En la conferencia Google I/O de la semana pasada, el director ejecutivo de la compañía, Sundar Pichai, aseguró que esta función, por ahora solo desplegada en EEUU, se abrirá progresivamente en todo el mundo. Así, esperan que más de mil millones de personas usen estos resúmenes generados con IA a final de año.

[–>

Sin embargo, este alud de problemas en los resultados de AI Overview podrían llevar a la compañía a tomar medidas. “¿podría Google poner en pausa los resúmenes de IA en una semana?”, se ha preguntado Alex Heath, director adjunto del medio especializado en tecnología The Verge.

Source: Informacion

Popular

More from author

Trump Jr. mocks Zelensky after Biden’s election 13:11

The entrepreneur Donald Trump Jr., son of the Republican Party candidate for US president Donald Trump, made fun of Ukrainian leader Vladimir Zelensky, mocking...

All EU sanctions against Russia extended by six months 13:10

The EU Council extended all sanctions against Russia for six months. What are you thinking? (function(){ const emojiBar = document.getElementById('_id_emoji_23510707'); if(window.g_getEmoji){ window.g_getEmoji(emojiBar, '/business/news/2024/07/22/23510707.shtml'); } else { emojiBar.remove(); } })(); #begun_block_442235304 .sponsorship {position: relative;...

Russian woman carried sand containing 11 times more radiation than allowed in her luggage 13:07

Vnukovo airport workers stopped a 42-year-old Russian woman with radioactive luggage. About this Federal Customs Service (FCS) of the Russian Federation reported on the...

Kremlin commends US for more aid to Ukraine 12:51

The United States will continue to help Ukraine in one way or another. This opinion was expressed during a briefing by the press secretary...