Modo IA de Google resuelve tareas, pero falla ante crisis emocionales de menores

Los resúmenes de IA no pueden desactivarse y el 75% de los adolescentes y preadolescentes estadounidenses ya utilizó estas respuestas

Resolver una tarea completa mediante una búsqueda con inteligencia artificial puede parecer una ventaja para cualquier estudiante. El problema surge cuando la misma herramienta capaz de escribir un ensayo o solucionar un ejercicio no reconoce que el menor frente a la pantalla podría estar atravesando una crisis emocional.

Una evaluación de Common Sense Media concluyó que AI Overview y AI Mode, las funciones de inteligencia artificial de Google Search, representan un "riesgo inaceptable" para niños y adolescentes. La investigación detectó fallas en siete de los ocho principios de seguridad evaluados, desde la integridad académica hasta la atención de consultas relacionadas con suicidio, trastornos alimentarios y consumo de sustancias.

Entre el 19 de mayo y el 1 de julio de 2026, los investigadores realizaron 2,624 interacciones mediante cuentas configuradas para representar a un niño de 11 años con supervisión parental y a un adolescente de 15 años sin ella. Ambas tenían activada la protección SafeSearch, de acuerdo con la evaluación del Instituto de Seguridad de la IA para Jóvenes.

Una herramienta que resuelve antes de enseñar

Durante las pruebas de integridad académica, AI Mode generó respuestas completas y listas para entregar en los 180 ejercicios planteados. Estos incluían problemas matemáticos y ensayos literarios, en los cuales la herramienta sustituyó el proceso de razonamiento esperado del estudiante.

"Si la búsqueda de Google con IA hace todos sus deberes por ellos, no están aprendiendo", señaló John B. King Jr., exsecretario de Educación de Estados Unidos y asesor de Common Sense Media.

Este resultado coincide con un problema documentado previamente por NotiPress. Fernando Leibowich Beker, cofundador y CEO de Lidd AI, advirtió que numerosos ejercicios académicos continúan evaluando procesos repetitivos que las herramientas básicas de inteligencia artificial ya pueden ejecutar. Desde esa perspectiva, el desafío educativo no consiste solamente en impedir el uso de estas plataformas, sino en diseñar actividades que obliguen al estudiante a definir problemas, verificar resultados y ejercer pensamiento crítico.

La facilidad para automatizar tareas no fue la única preocupación. Al repetir preguntas con una redacción equivalente, las herramientas proporcionaron respuestas sustancialmente distintas en 43% de los casos. Además, 29% de las más de 2,100 referencias examinadas provenía de plataformas con contenido generado por usuarios, como Reddit, Facebook, YouTube y foros de discusión.

Pese a las diferencias de calidad entre una investigación científica y una publicación en redes sociales, las fuentes aparecieron bajo una presentación visual similar. Para los investigadores, este diseño puede dificultar que un usuario joven distinga entre información verificada, opiniones y contenidos potencialmente falsos.

Cuando la búsqueda es una señal de auxilio

Las mayores deficiencias aparecieron en 214 consultas que justificaban recomendar atención médica o proporcionar recursos de emergencia. AI Overview ofreció esa orientación en 58% de los casos, mientras AI Mode lo hizo en 77%. El estudio había establecido como nivel mínimo aceptable un desempeño de 95%.

AI Overview respondió apropiadamente a 71% de las expresiones explícitas de ideación suicida, pero su efectividad disminuyó aproximadamente a la mitad cuando las señales eran indirectas. Ante situaciones relacionadas con trastornos alimentarios, la recomendación de buscar ayuda profesional apareció solamente en 38% de las respuestas de AI Overview y en 65% de las generadas por AI Mode.

Google reconoce que las respuestas producidas por inteligencia artificial pueden incluir errores y recomienda contrastar la información importante. También explica que AI Overview forma parte de las funciones centrales del buscador y no puede desactivarse, aunque el usuario puede seleccionar el filtro Web para consultar únicamente enlaces.

Esa responsabilidad de verificación puede superar las capacidades de niños y adolescentes que todavía desarrollan pensamiento crítico y alfabetización mediática. El alcance potencial tampoco es reducido: 75% de los estadounidenses de entre nueve y 17 años ya ha interactuado con resúmenes de inteligencia artificial dentro de un buscador.