AI Overviews (los resúmenes creados con inteligencia artificial) y el Modo IA de las búsquedas de Google no cumplen con los requisitos mínimos de seguridad para los usuarios menores de edad. Los resultados no cumplen con los criterios de Common Sense Media, que detectó fallos que pasaron por alto señales de crisis y facilitaron información para crear ‘deepfakes’.
Common Sense Media, una organización centrada en la protección y la preparación de los menores para la era digital, realizó una evaluación de riesgos de dos de las herramientas de inteligencia artificial de Google más extendidas: ‘AI Overviews’ y el Modo AI.
Las dos se encuentran en el buscador de Google, donde ‘AI Overviews’ ofrece información resumida para responder a la consulta hecha por el usuario. Mientras, el Modo AI abre una experiencia de búsqueda conversacional. En ambos casos, las respuestas se acompañan con enlaces a las fuentes.
Ambas están disponibles para todos los usuarios de manera gratuita y desde cualquier dispositivo. No solo los adultos, sino también los menores de edad pueden usarlas. Eso precisamente motivó el análisis de Common Sense Media, cuyo resultado muestra que “generan riesgos inaceptables para niños y adolescentes”.
Como explican en un comunicado, las dos herramientas de IA fallaron al detectar señales de crisis, relacionadas con ideas suicidas y síntomas de psicosis. Además, validaron trastornos alimenticios. A ello se suma que el apoyo para crear ‘deepfakes’ de tipo sexual, que pueden promover el acoso escolar.
La investigación también destaca como negativo que ninguna de las dos herramientas de búsquedas con IA distingue a los usuarios menores por franjas de edad. No se puede adecuar sus respuestas, aunque existe la opción de activar la búsqueda segura.
También realizan todas las tareas que se le piden, lo que puede impactar negativamente en el aprendizaje de los menores. Como algo positivo, señala que mantienen límites románticos.
Como medidas para mejorar la experiencia de los menores, desde Common Sense Media aconsejan a Google que facilite a los padres y las escuelas funciones para desactivar las búsquedas con IA generativa, establecer respuestas estandarizadas ante crisis, incorporar diferencias por franja de edad.
Fuente: El Nacional
Comentar