SafeSpaceAI Familias (ES)

About

SafeSpaceAI Familias (ES) es una extensión innovadora diseñada para proteger a niños, familias y entornos escolares en su interacción con herramientas de inteligencia artificial. El objetivo es sencillo: que la IA pueda ser utilizada como recurso educativo y de acompañamiento, sin poner en riesgo la seguridad psicológica, emocional o ética de los menores.

¿Qué hace SafeSpaceAI Familias?

La extensión analiza en tiempo real los textos que se generan o consumen dentro del navegador y calcula dos métricas principales:
	•	SCAB (0–18): una batería de seis dominios de seguridad conductual que evalúa si el contenido presenta señales de riesgos éticos, de límites, de odio o de incoherencia.
	•	PRIS (0–100): un indicador de riesgo de psicosis inducida por IA, sensible a patrones de paranoia, delirios, alucinaciones o ideas persecutorias.

Ambas métricas se muestran de manera clara y sencilla en un panel accesible para padres, madres y docentes.

Modo sin conexión (Offline)
	•	Todos los análisis se realizan en el propio dispositivo.
	•	No se requiere enviar contenido a ningún servidor externo.
	•	Se minimiza el consumo de datos y se prioriza la privacidad absoluta.

Modo híbrido (opcional)
	•	El administrador de un colegio o distrito puede configurar un retransmisor propio.
	•	Antes de enviar cualquier texto, la extensión aplica un sistema de redacción local que elimina datos personales, direcciones, correos y números sensibles.
	•	Este modo permite auditorías centralizadas y generación de reportes, sin comprometer la privacidad individual.

Flujos principales
	•	Niños: disponen de un chat controlado y seguro. Si intentan introducir frases problemáticas, reciben una explicación clara de por qué su mensaje fue bloqueado y se les ofrece material educativo sobre alfabetización en IA.
	•	Padres y madres: tienen acceso a un panel con las últimas evaluaciones, tendencias y un centro de evidencias. Todo está protegido por PIN y con opción de exportar informes en formato JSON/CSV.
	•	Docentes: pueden activar un “modo aula” que bloquea funciones de red, fija horarios de uso y aplica configuraciones de política escolar.

Funciones destacadas
	•	Detección ampliada: cientos de palabras y expresiones en español que sirven como disparadores de alerta para SCAB y PRIS.
	•	Evidencias seguras: los registros almacenan solo huellas (hashes) y metadatos. Guardar texto sin procesar es opcional y está desactivado por defecto.
	•	Protección integral: la extensión también reconoce intentos de “jailbreak” (saltarse filtros) o de atribuir conciencia humana a la IA.
	•	Privacidad por diseño: cumple con principios de privacidad infantil (COPPA, AADC).
	•	Gamificación positiva: recompensas y logros para fomentar un uso sano de la IA.
	•	Compatibilidad escolar: integra configuraciones MDM y se puede desplegar a nivel institucional.

Beneficios
	•	Para familias: tranquilidad al permitir que los hijos usen IA de forma educativa, sin riesgos ocultos.
	•	Para escuelas: una capa de gobernanza sobre el uso de chatbots y generadores de texto en el aula.
	•	Para investigadores y responsables de TI: un ejemplo práctico de cómo aplicar principios de seguridad ética a nivel de navegador.

Seguridad adicional
	•	PIN de administración encriptado con SHA-256.
	•	Verificación de integridad para evitar manipulaciones del código.
	•	Sistema de caídas en modo seguro: si algo falla, el análisis siempre se mantiene en modo local.

Limitaciones

SafeSpaceAI no reemplaza la supervisión adulta. Se trata de una herramienta de apoyo y educación. El juicio y la participación de padres, madres y docentes sigue siendo imprescindible.

Conclusión

Con SafeSpaceAI Familias (ES), las familias y las escuelas disponen de un recurso sólido, privado y fácil de usar que traduce investigaciones avanzadas sobre seguridad en IA a un formato práctico y comprensible.