Microsoft limita el uso de datos escolares en inteligencia artificial
Microsoft y organizaciones docentes de Estados Unidos acordaron nuevas medidas para limitar el uso de inteligencia artificial en las escuelas, especialmente cuando estas herramientas tienen acceso a información de estudiantes y profesores.
La compañía, junto con la American Federation of Teachers (AFT) y la United Federation of Teachers (UFT), presentó el National AI Safety & Privacy Standard, un conjunto de protecciones enfocado en privacidad, seguridad, transparencia y supervisión humana.
El acuerdo fue anunciado el 9 de septiembre y surge en medio de una adopción cada vez mayor de herramientas de inteligencia artificial dentro del sector educativo.
Los datos escolares no podrán utilizarse para entrenar IA
Uno de los principales puntos establece que la información de estudiantes y educadores no deberá utilizarse para entrenar modelos de inteligencia artificial, venderse ni destinarse a propósitos diferentes de aquellos para los que fue recopilada.
Las instituciones educativas conservarán además el control sobre la manera en que esos datos se utilizan, almacenan y eliminan.
El objetivo es establecer límites más claros frente a herramientas que pueden procesar grandes cantidades de información personal mientras son utilizadas para tareas académicas, administrativas o de apoyo a la enseñanza.
La decisión final deberá permanecer en manos humanas
El estándar también establece que los sistemas de inteligencia artificial utilizados en el ámbito escolar deben contar con supervisión humana.
Esto implica que la tecnología no debe reemplazar por completo el criterio de docentes y autoridades cuando se toman decisiones relacionadas con los estudiantes.
Las herramientas también deberán incorporar medidas para proteger información sensible y evitar experiencias consideradas dañinas o manipuladoras.
No se trata de una nueva ley
Aunque el documento lleva el nombre de Estándar Nacional de Seguridad y Privacidad de la IA, no representa una nueva legislación federal en Estados Unidos.
Los distritos escolares podrán incorporar estas condiciones directamente a sus contratos con Microsoft. Una vez integradas, las protecciones pasan a ser exigibles como parte del acuerdo contractual.
La UFT señala además que, ante un incumplimiento, los distritos podrían terminar contratos y recurrir a las medidas contempladas legalmente.
Microsoft indicó que pretende poner estas protecciones a disposición de los distritos escolares de Estados Unidos, mientras que las organizaciones docentes buscan que el modelo sirva como referencia para establecer mayores controles sobre la inteligencia artificial utilizada en las aulas.
La discusión sobre IA en la educación comienza así a desplazarse de lo que estas herramientas pueden hacer hacia otro punto igualmente relevante: qué datos pueden utilizar, quién conserva el control sobre ellos y hasta dónde debe permitirse que una tecnología intervenga en las decisiones relacionadas con los estudiantes.
