luego se introducen en una computadora con fines de evaluación para
determinar si los estudiantes están totalmente comprometidos con sus tareas o
si su atención se ha desviado. Para lograr esto, la computadora analiza un
rango de siete emociones distintas exhibidas en la cara, que incluyen
neutralidad, felicidad, tristeza, decepción, ira, miedo y sorpresa. En el caso de
que el sistema determine que el estudiante no está completamente
comprometido o concentrado, generará una notificación para alertar al
maestro, indicándole que intervenga en consecuencia. Sin embargo, la
utilización de estas cámaras sin darse cuenta ha llevado a niveles elevados de
ansiedad entre los estudiantes, alterando su comportamiento innato, numerosos
estudiantes han expresado sentimientos de vigilancia constante, como si
estuvieran bajo el escrutinio perpetuo de ojos enigmáticos.
Ahora bien, existe otro método impulsado por IA que lleva las cosas un
paso más allá al incorporar sensores de electroencefalografía (EEG), colocados
específicamente en cintas para la cabeza, para analizar la actividad cerebral de
los estudiantes mientras participan activamente en una tarea en particular. Este
enfoque innovador también es promocionado por sus creadores por tener la
capacidad de aumentar el proceso de aprendizaje, empero, su validez ha sido
cuestionada por expertos en el campo de la neurociencia, vale la pena señalar
que la utilización de estas cintas puede generar resultados poco confiables o
potencialmente dar lugar a repercusiones imprevistas. En octubre de 2019, los
organismos reguladores de China, a saber, la Administración del Ciberespacio
y el Ministerio de Educación, implementaron un conjunto de reglas con el
objetivo de limitar la utilización de cámaras, cintas y dispositivos similares
impulsados por IA dentro de las instituciones educativas (Feng, 2019).
Estas regulaciones exigen obtener el consentimiento de los padres
antes de emplear tecnologías de inteligencia artificial con los estudiantes, así
como garantizar el cifrado de todos los datos. En consecuencia, la
implementación de estas medidas ha suspendido temporalmente la aplicación
de EEG y tecnologías de reconocimiento facial en las escuelas de China,
aunque esta suspensión puede no ser permanente. El Consenso de Beijing
profundiza en las consideraciones éticas que rodean la integración de la
inteligencia artificial en la educación, específicamente en los párrafos 28 al 30.
Aparte, el Consenso aboga firmemente por el establecimiento e
implementación de marcos regulatorios sólidos por parte de los gobiernos
nacionales para garantizar la utilización responsable y beneficiosa de las
herramientas de IA en entornos educativos.
Estos marcos deben basarse en la próxima “Recomendación de la
Conferencia Mundial sobre Ética en Inteligencia Artificial” de la UNESCO,