Los 'chatbots' se han convertido en una amenaza para los menores de edad, que son capaces de acceder y utilizar modelos como My AI de Snapchat para acceder a contenidos para adultos, puesto que no cuenta con los filtros necesarios para proteger la integridad de los más pequeños.

La Inteligencia Artificial (IA) generativa se ha integrado en todos los dispositivos (móviles, ordenadores, tabletas) y ámbitos, como el ocio o la educación. Esto ha hecho que niños de todas las edades y todos los lugares del mundo tengan acceso a los sistemas que emplean esta tecnología.

Noticia relacionada: Musk Presenta 'Grok', Chatbot con Inteligencia Artificial que Se Enlaza con X

Aprender a través de la IA se ha vuelto algo cada vez más habitual, puesto que con ella es posible encontrar información útil escribiendo o pronunciando una sola frase, sin tener que leer una gran cantidad de páginas o artículos.

Esto ha hecho que algunas herramientas educativas integren sistemas como ChatGPT, un modelo que no dispone de un sistema de verificación de edad fiable y que, en ocasiones, registra respuestas inexactas, recopiladas de páginas de internet de dudosa credibilidad y sin contrastar, como explican desde la firma de seguridad Kaspersky.

Los menores también pueden verse en una situación de vulnerabilidad cuando utilizan un 'chatbot' que, inicialmente, parece inofensivo, como es el caso de My AI.

Los menores de hasta 13 años de edad pueden utilizar esta herramienta de Snapchat sin consentimiento paterno y, desde dicha edad en adelante, la 'app' recopila datos confidenciales tan importantes como el nombre, la dirección de correo electrónico o el número de teléfono y compartirlos con terceros.

Video: Estados Unidos y Países del G7 Avanzan en Regulación de Uso de Inteligencia Artificial

Así lo reconoce Snapchat en su página web, que matiza en su apartado de privacidad que reúne toda esta información para personalizar sus servicios, esto es, para sugerir amigos y "ayudar a los Snapchatters a encontrar a otras personas en Snapchat", entre otras funciones.

Además de exponer los datos de los menores de edad, esta herramienta también ha demostrado ser accesible a todos los niveles y, con ello, ha puesto en evidencia sus carencias a la hora de filtrar el tipo de contenido que ofrece según a quién se dirigen.

Así lo pudo comprobar el periodista de The Washington Post Geoffrey A. Fowler, que evidenció que las respuestas de este 'chatbot' no eran apropiadas al hacerse pasar por un adolescente de 13 años.

Además de ofrecer asesoramiento sobre cómo tener relaciones sexuales por primera vez con una persona mayor de edad, My AI le dio consejos para eliminar el olor a alcohol y a marihuana durante una fiesta adolescente.

Noticia relacionada: Joe Biden Revela Plan para Regular la Inteligencia Artificial

Expertos de la firma de ciberseguridad Kaspersky han demostrado ahora que los menores de edad también pueden acceder a contenido para adultos sin necesidad de indicar su edad, lo que pone en evidencia la falta de medidas diseñadas para proteger la seguridad de los más pequeños.

No obstante, al igual que My AI carece de filtros para obtener respuestas de tipo sexual sin necesidad de verificación, otras aplicaciones como Boyfriend -diseñada para disfrutar de juegos de rol con contenido sexual- también ofrecen facilidades para su utilización, independientemente de la edad de los usuarios.

Esto sucede porque esta otra herramienta solo exige un correo electrónico para la creación de un perfil. Lo que, en definitiva, junto con el servicio de Snapchat, demuestra que los adultos deben estar alerta ante este tipo de vulnerabilidades.

Video: Venta de Fentanilo por Snapchat Enciende Alertas en EUA

Consejos para evitar usos inadecuados de la IA

Desde Kaspersky consideran que, para reducir los riesgos cuando los más pequeños interactúan con los chatbots, es importante explicarles que deben pedir ayuda a sus padres para configurar los ajustes de privacidad.

Con ello, progenitores y tutores deben conocer las Políticas de Privacidad de las aplicaciones para actuar en consecuencia, así como enseñar a los niños los conceptos básicos de la seguridad y privacidad 'online' para evitar que compartan información tanto con extraños como con 'chatbots'.

Noticia relacionada: ¿Cómo Crear una Calaverita Literaria con IA para Día de Muertos?

También es relevante emplear una solución de seguridad integral de confianza, así como aplicaciones específicas que facilitan la educación digital e incluyen el bloqueo de sitios web inapropiados.

Por último, los adultos deben enseñar a los niños cuáles son las conversaciones que deben y no deben mantener con 'bots' de este tipo y cuáles son los más apropiados para su edad y sus necesidades.

Historias recomendadas:

Con información de Europa Press

LSH