Sobre el uso del reconocimiento facial en las escuelas

Las escuelas ahora pueden obtener tecnología de reconocimiento facial de forma gratuita ¿Pueden ellos?
Por Issie Lapowsky, publicado por Wired.

Al igual que muchos padres en los Estados Unidos, Rob Glaser ha estado pensando mucho últimamente sobre cómo evitar que sus hijos reciban un disparo en la escuela. Específicamente, ha estado pensando en lo que puede hacer, que no implica meterse en una desagradable e interminable batalla por lo que él llama "la g-palabra".

Foto de Chris Ryan / GETTY IMAGES. Vista en WIRED

No es que Glaser se oponga al control de armas. Como un constante donante demócrata, Glaser fundó RealNetworks, el gigante de la transmisión en línea, en la década de 1990 como un vehículo para difundir opiniones políticas de izquierda. Es solo que cualquier conversación sobre cómo restringir los derechos de armas en Estados Unidos tiende a conducir más al estancamiento y a los señalamientos que a la acción. "Sé que mis opiniones personales no prevalecerán en este ambiente político actual", dice Glaser.

Así que comenzó a trabajar en una solución que cree que será menos divisiva y, por lo tanto, más procesable de inmediato. En los últimos dos años, RealNetworks ha desarrollado una herramienta de reconocimiento facial que espera ayude a las escuelas a controlar con mayor precisión quién pasa por delante de sus puertas. Hoy, la compañía lanzó un sitio web donde los administradores escolares pueden descargar la herramienta, llamada SAFR, de forma gratuita e integrarla con sus propios sistemas de cámaras. Hasta el momento, una escuela en Seattle, a la que asisten los niños de Glaser, está probando la herramienta y el estado de Wyoming está diseñando un programa piloto que podría lanzarse más adelante este año. "Creemos que estamos golpeando algo, puede haber un consenso social alrededor: que usar tecnología de reconocimiento facial para hacer que las escuelas sean más seguras es algo bueno", dice Glaser.

Pero si bien la solución propuesta por Glaser puede eludir la lucha de décadas sobre el control de armas en los EE. UU., Simultáneamente lo posiciona en el centro de un debate nuevo, pero aún polémico, sobre cómo equilibrar la privacidad y la seguridad en un mundo que es comenzando a sentirse como una escena de Minority Report . Grupos como la Electronic Frontier Foundation, donde Glaser es ex miembro de la junta, han publicado un libro blanco que detalla cómo la tecnología de reconocimiento facial a menudo identifica erróneamente a los negros y las mujeres a tasas más altas que los hombres blancos. Los propios empleados de Amazon han protestado por el uso de su producto Rekognition para fines policiales. Y justo la semana pasada, el presidente de Microsoft, Brad Smith, pidió una regulación federal de la tecnología de reconocimiento facial, escribiendo: "Esta tecnología puede catalogar sus fotos, ayudar a reunir familias o ser potencialmente maltratadas y abusadas tanto por compañías privadas como por autoridades públicas".

El tema es particularmente difícil cuando se trata de niños. Después de que una escuela en Lockport, Nueva York anunció que planeaba gastar millones de dólares en tecnología de reconocimiento facial para monitorear a sus estudiantes, la Unión de Libertades Civiles de Nueva York y el Fondo de Defensa Legal expresaron su preocupación de que una mayor vigilancia de los niños podría amplificar los prejuicios existentes contra los estudiantes de color, que ya puede estar demasiado vigilado en casa y en la escuela.

"El uso del reconocimiento facial en las escuelas crea un nivel de vigilancia y escrutinio sin precedentes", dice John Cusick, miembro del Fondo de Defensa Legal. "Puede exacerbar las disparidades raciales en términos de cómo las escuelas están imponiendo códigos disciplinarios y supervisando a sus estudiantes".

Glaser, quien dice que es un "miembro portador de la ACLU", es muy consciente de los riesgos de que la tecnología de reconocimiento facial se use de forma incorrecta. Esa es una razón, de hecho, por la que decidió lanzar SAFR a las escuelas primero. "Desde mi punto de vista, cuando se pone a la tecnología en el mercado, lo correcto es descubrir cómo dirigirla en buenas direcciones", dice.

"Personalmente estoy de acuerdo en que puedes exagerar la vigilancia escolar. Pero también estoy de acuerdo en que, en un país donde ha habido tantos incidentes trágicos en las escuelas, la tecnología que hace que sea más fácil mantener las escuelas más seguras es fundamentalmente una buena cosa ".

RealNetworks comenzó a desarrollar la tecnología que sustenta el SAFR poco después de que Glaser regresara de una pausa de tres años. Esperaba reinventar la compañía , pionera de la era de la PC, para competir en la era de la computación móvil en la nube. El primer gran lanzamiento de producto de RealNetworks con Glaser al timón fue una aplicación para almacenar y compartir fotos llamada RealTimes. Inicialmente, la tecnología de reconocimiento facial estaba destinada a ayudar a la aplicación RealTimes a identificar a las personas en las fotos. Pero Glaser reconoce que RealTimes "no tuvo tanto éxito", dado el dominio de compañías como Google y Facebook en el espacio. Además, comenzaba a ver cómo la tecnología que su equipo había desarrollado podía usarse para abordar un problema mucho más acuciante y aún no resuelto.

Glaser se acercó a los administradores de su escuela para niños en Seattle, la Escuela de Desarrollo Infantil Universitario, que acababa de instalar un sistema de puerta y cámara, y les preguntó si podían usar SAFR para supervisar a los padres, maestros y otros visitantes que ingresan a la escuela. La escuela le pedirá a los adultos, no a los niños, que se registren con el sistema SAFR. Después de que se registraran, podrían ingresar a la escuela sonriendo a una cámara en la entrada principal. (Smiling le dice al software que está mirando a una persona en vivo y no, por ejemplo, a una fotografía). Si el sistema reconoce a la persona, las puertas se desbloquean automáticamente. Si no, pueden ingresar a la antigua manera llamando a la recepcionista.

Según la directora de la escuela, Paula Smith, los comentarios de los padres fueron positivos, aunque solo la mitad de ellos optó por registrar sus rostros con el sistema. La escuela se acerca a la tecnología con un toque ligero. Decidió deliberadamente no permitir que sus alumnos, que son todos menores de 11 años, participen, por ejemplo. "Creo que tiene que ser una decisión muy bien pensada", dice Smith sobre el uso de esta tecnología en los niños. Hoy, la Escuela de Desarrollo Infantil Universitario usa el filtro de edad de SAFR para evitar que los niños se registren. El software puede predecir la edad y el sexo de una persona, lo que permite que las escuelas desactiven el acceso a personas de cierta edad. Pero Glaser señala que si otras escuelas quieren registrar a los estudiantes en el futuro, pueden hacerlo.

Cada cara registrada por SAFR obtiene un hash cifrado único que se almacena en los servidores locales de la escuela. Hoy, Glaser dice que técnicamente no es factible compartir esos datos de un sitio con otro, porque los hash no serían compatibles con otros sistemas. Pero eso puede cambiar en el futuro, dice Glaser. Si, por ejemplo, un sistema escolar desea implementar SAFR en todas sus escuelas, la compañía puede permitir que fluyan datos entre ellas.

Por ahora, RealNetworks no requiere que las escuelas cumplan con ningún término específico sobre cómo usan la tecnología. El breve proceso de aprobación solo requiere que demuestren a RealNetworks que, de hecho, son una escuela. Después de eso, las escuelas pueden implementar el software por su cuenta. No existen pautas sobre cuánto tiempo se almacenan los datos faciales, cómo se usan o si las personas deben optar por ser rastreados.

Eso es preocupante, dice Rachel Levinson-Waldman, consejera principal del Programa de Seguridad y Seguridad Nacional del Centro Brennan. "La tecnología de reconocimiento facial puede ser un peligro adicional si no existen pautas bien articuladas sobre su uso", dice.

Las escuelas podrían, por ejemplo, usar la tecnología de reconocimiento facial para monitorear quién se está asociando con quién y cómo disciplinar a los estudiantes de manera diferente como resultado. "Podría criminalizar las amistades", dice Cusick del Fondo de Defensa Legal.

Glaser reconoce que la empresa tendrá que desarrollar algunos términos más claros a medida que amas más usuarios. Eso es especialmente cierto si comienza a extenderse a otros tipos de clientes, incluidas las agencias de aplicación de la ley, un mercado que Glaser no descarta. Pero él dice que la compañía todavía está averiguando si implementará pautas estrictas para los usuarios en las escuelas o simplemente ofrecerá un "suave estímulo" sobre cómo se debe usar SAFR.

También hay preguntas sobre la precisión de la tecnología de reconocimiento facial, escrito en letra grande. SAFR cuenta con un índice de precisión global del 99.8 por ciento, basado en una prueba, creada por la Universidad de Massachusetts, que examina los sistemas de reconocimiento facial. Pero Glaser dice que la compañía no ha probado si la herramienta es tan buena para reconocer las caras negras y marrones como si reconoce las blancas. RealNetworks optó deliberadamente por que el software no predigara de forma proactiva la etnicidad, la forma en que predice la edad y el sexo, por temor a que se use para la discriminación racial. Aún así, es clave probar la precisión de la herramienta entre diferentes grupos demográficos. La investigación ha mostradoque muchas de las mejores herramientas de reconocimiento facial son particularmente malas para reconocer a las mujeres negras. Glaser señala, sin embargo, que el algoritmo fue entrenado usando fotos de países de todo el mundo y que el equipo todavía no ha detectado ninguno de esos "fallos". Sin embargo, el hecho de que SAFR esté llegando al mercado con tantas preguntas pendientes de ser resueltas Esta es una razón por la cual los expertos dicen que el gobierno necesita intervenir para regular los casos de uso y la eficacia de estas herramientas.

"Esta tecnología necesita ser estudiada, y cualquier regulación que se considere debe tener en cuenta a las personas que han sido directamente afectadas: estudiantes y padres", dice Cusick.

Si todas las escuelas usaran SAFR de la misma manera que se usa en Seattle -para permitir que los padres que han optado explícitamente por el sistema ingresen en el campus- parece menos probable que cause mucho daño. La pregunta es si hará algún bien. Este tipo de tecnología, señala Levinson-Waldman, no hubiera detenido el número de tiroteos escolares que se han producido, con algunas excepciones de alto perfil como el tiroteo en Parkland, Florida, perpetradas por estudiantes que tenían todo el derecho de estar dentro del las aulas se dispararon. "Es tentador decir que hay una solución tecnológica, que vamos a encontrar a las personas peligrosas, y vamos a detenerlas", dice. "Pero creo que una gran parte de eso es aferrarme a las pajas".

Glaser, por su parte, da la bienvenida a la supervisión federal de este espacio. Él dice que es precisamente debido a sus puntos de vista sobre la privacidad que quiere ser parte de lo que seguramente será una larga conversación sobre el despliegue ético del reconocimiento facial. "Esto no es solo ciencia ficción. Esto se está convirtiendo en algo de lo que nosotros, como sociedad, tenemos que hablar ", dice. "Eso significa que las personas que se preocupan por estos temas deben involucrarse, no solo como extorsivos sino también como personas que intentan brindar soluciones. Si las únicas personas que proporcionan reconocimiento facial son personas a las que les importa una mierda la privacidad, eso es malo ". / Por Issie Lapowsky, publicado por Wired.

Lea la nota original: "Schools Can Now Get Facial Recognition Tech for Free. Should They". Por Issie Lapowsky, publicado por Wired.-

Post relacionados:

• EE.UU.: Microsoft apunta a una legislación para el reconocimiento biométrico. 16/07/2018.
• Como en 1984, la vigilancia total. 27/05/2018.
• En camino a la vigilancia total. 30/10/2015.

___________________

NOTA: Las cookies de este sitio se usan para personalizar el contenido y los anuncios, para ofrecer funciones de medios sociales y para analizar el tráfico. Además, compartimos información sobre el uso que haga del sitio web con nuestros partners de medios sociales, de publicidad y de análisis web. Ver detalles.

IMPORTANTE: Todas las publicaciones son sin fines comerciales ni económicos. Todos los textos de mi autoría tienen ©todos los derechos reservados. Los contenidos en los link (vínculos) de las notas replicadas (reproducidas) y/o citadas son de exclusiva responsabilidad de sus autores. Éste blog ni su autor tienen responsabilidad alguna por contenidos ajenos.