Uso de la IA debe ser en espacios que protejan la seguridad de menores de edad
- hace 2 minutos
- 3 min de lectura
Redacción Banca21
La Inteligencia Artificial (IA) ya forma parte de las búsquedas, las tareas y el entretenimiento de niñas, niños y adolescentes, de ahí que el reto ya no es decidir si tendrán contacto con ella, sino garantizar que aprendan a utilizarla en espacios que protejan su seguridad, fortalezcan su criterio y les permitan desarrollar sus ideas.
Por ello, ante este escenario, GandIA lanzó en México una plataforma de IA con la que menores de edad pueden crear historias, cómics, videojuegos y experiencias educativas mediante conversaciones e instrucciones sencillas.
Durante la presentación de esta herramienta, se informó que ésta incorpora controles parentales, filtros de contenido y mecanismos para detectar interacciones de riesgo.
“No queremos que niñas y niños utilicen una Inteligencia Artificial que piense por ellos, sino que los ayude a pensar mejor, participar en el proceso creativo y convertir sus ideas en algo que puedan compartir”, afirmó Cristian Sandoval, fundador de GandIA, empresa mexicana enfocada en la creación colaborativa con inteligencia artificial.
Detalló que, en lugar de entregar una respuesta terminada para copiar y pegar, la plataforma guía al usuario por distintas decisiones.
Tales como para desarrollar un cómic, por ejemplo, debe crear personajes, construir el contexto, elegir los diálogos y definir cómo avanza la historia. En las actividades educativas puede seleccionar rutas, responder preguntas y recibir retroalimentación.
Además, integra modelos especializados en texto, imagen, sonido, video y programación, lo que permite combinar distintos formatos sin que el usuario necesite contratar cada tecnología por separado.
Diseñada desde la infancia
GandIA se desarrolló durante dos años mediante pruebas y sesiones de trabajo con 300 niñas y niños, docentes y familias. El proceso permitió identificar tres preocupaciones: el acceso a contenidos inadecuados, la necesidad de verificar la información y el riesgo de que la IA sustituya parte del aprendizaje.
A partir de estos hallazgos, especialistas en tecnología y educación ajustaron las funciones creativas y los mecanismos de protección. Madres, padres y tutores pueden orientar los contenidos según la edad y los intereses de cada menor. Ante una solicitud inapropiada, la interacción se limita y el usuario es redirigido.
El sistema también puede bloquear cuentas cuando detecta patrones relacionados con explotación o acercamientos de adultos que representen un riesgo.
“Prohibir el uso de la IA no impedirá que niñas, niños y adolescentes tengan contacto con ella. Necesitamos herramientas diseñadas para su edad, con reglas claras, acompañamiento familiar y mecanismos de protección desde el inicio”, afirmó César Daniel González Madruga, cofundador de GandIA.
El equipo ha llevado estas inquietudes a espacios especializados en seguridad digital en México y Estados Unidos. También ha sostenido acercamientos con autoridades para revisar protocolos de prevención ante riesgos para los menores.
Uno de los ejes del proyecto es utilizar la IA como una puerta hacia la creatividad, no como un sustituto de la imaginación. Para Carlos Carsolio, alpinista, escultor y conferencista mexicano, innovar significa aprovechar el conocimiento existente para abrir una ruta nueva.
“La tecnología puede ampliar nuestras posibilidades, pero la idea, la curiosidad y el impulso para crear siguen naciendo de las personas”, afirmó Carsolio.
Aunque la plataforma fue diseñada con énfasis en las infancias, también puede ser utilizada por docentes, adultos mayores, profesionistas y las personas que así lo deseen. GandIA también dio a conocer que ya prepara funciones de cocreación para que varios usuarios trabajen en un mismo proyecto.
La llegada de esta herramienta abre una conversación que va más allá de su lanzamiento. La IA formará parte del entorno en el que crecerán las nuevas generaciones. La decisión no está entre permitirla o prohibirla, sino entre dejar que la consuman sin orientación o darles recursos para utilizarla con criterio, creatividad y acompañamiento.
Herramienta desarrollada en México
Desarrollado en México, el proyecto también plantea una pregunta de fondo ¿Quién define los valores de las tecnologías que acompañarán a las siguientes generaciones?
“Apoyar la tecnología hecha en el país no solo significa impulsar la innovación nacional, sino abrir la posibilidad de crear herramientas pensadas desde las necesidades de las infancias mexicanas y participar activamente en las decisiones que marcarán su relación con la inteligencia artificial”, externó César Daniel González Madruga.
Acerca de GandIA
GandIA es una plataforma de creación colaborativa impulsada por IA, fundada en México, que permite a creadores, artistas, educadores y apasionados de la tecnología desarrollar historias, animaciones, videojuegos y experiencias digitales en un entorno seguro y sin intermediarios.
Su modelo de monetización directa garantiza que el creador sea dueño de su contenido y reciba regalías automáticas cuando otros colaboran o remixean sus proyectos.
