'Hey Siri': los asistentes virtuales están escuchando a los niños y luego utilizando los datos

En muchos hogares ocupados de todo el mundo, no es raro que los niños griten directivas a Siri de Apple o Alexa de Amazon. Pueden hacer un juego al preguntarle al asistente personal activado por voz (VAPA) qué hora es, o solicitar una canción popular. Si bien esto puede parecer una parte mundana de la vida doméstica, está sucediendo mucho más.

Los VAPA escuchan, graban y procesan continuamente los acontecimientos acústicos en un proceso que se ha denominado Evesmining, un portmanteau de escuchas y data. Esto plantea preocupaciones significativas relacionadas con los problemas de privacidad y vigilancia, así como la discriminación, a medida que los rastros sonoros de la vida de las personas se convierten en datos y analizados por algoritmos.

Estas preocupaciones se intensifican a medida que las aplicamos a los niños. Sus datos se acumulan durante las vidas de manera que van mucho más allá de lo que se recopiló en sus padres con consecuencias de gran alcance que ni siquiera hemos comenzado a entender.

Siempre escuchando

La adopción de VAPAS está procediendo a un ritmo asombroso, ya que se extiende para incluir teléfonos móviles, altavoces inteligentes y los productos numéricos cada vez mayores que están conectados a Internet. Estos incluyen juguetes digitales para niños, sistemas de seguridad para el hogar que escuchan robos y timbres inteligentes que pueden recoger conversaciones en la acera.

Hay problemas apremiantes que se derivan de la recopilación, almacenamiento y análisis de datos sónicos en lo que respecta a padres, jóvenes y niños. Se han planteado alarmas en el pasado 2014, los defensores de la privacidad expresaron preocupaciones sobre cuánto estaba escuchando el Amazon Echo, qué datos se recopilaban y cómo los datos de Amazon utilizarían los datos.

Y, sin embargo, a pesar de estas preocupaciones, los VAPAS y otros sistemas de espía se han extendido exponencialmente. La investigación de mercado reciente predice que para 2024, el número de dispositivos activados por voz explotará a más de 8,4 mil millones.

Grabando más que solo discurso

Se están recopilando más que solo declaraciones pronunciadas, ya que las vapas y otros sistemas de espía escuchan características personales de voces que revelan involuntariamente atributos biométricos y conductuales como edad, género, salud, intoxicación y personalidad.

La información sobre entornos acústicos (como un apartamento ruidoso) o eventos sónicos particulares (como Breaking Glass) también se puede obtener a través del análisis de la escena auditiva para emitir juicios sobre lo que está sucediendo en ese entorno.

Los sistemas de huele ya tienen un historial reciente para colaborar con las agencias de aplicación de la ley y ser citados por datos en investigaciones criminales. Esto plantea preocupaciones de otras formas de arrastre de vigilancia y perfiles de niños y familias.

Por ejemplo, los datos de altavoces inteligentes se pueden usar para crear perfiles como hogares ruidosos, estilos de crianza disciplinarios o juventud problemática. Esto podría, en el futuro, ser utilizado por los gobiernos para perfilar aquellos que dependen de la asistencia social o las familias en crisis con consecuencias potencialmente graves.

También hay nuevos sistemas de espía presentados como una solución para mantener a los niños seguros llamados detectores de agresión. Estas tecnologías consisten en sistemas de micrófonos cargados con software de aprendizaje automático, afirmando dudosamente que pueden ayudar a anticipar incidentes de violencia escuchando signos de aumento de volumen y emociones en voces, y para otros sonidos como la ruptura de vidrio.

Monitoreo de escuelas

Los detectores de agresión se anuncian en revistas de seguridad escolar y en las convenciones de aplicación de la ley. Se han desplegado en espacios públicos, hospitales y escuelas secundarias bajo la apariencia de poder evitar y detectar tiroteos masivos y otros casos de violencia letal.

Pero hay serios problemas en torno a la eficacia y la confiabilidad de estos sistemas. Una marca de detector malinterpretó repetidamente las señales vocales de los niños, incluidos la tos, los gritos y el vitoreo como indicadores de agresión. Esto plantea la cuestión de quién está siendo protegido y quién será menos seguro por su diseño.

Algunos niños y jóvenes se verán perjudicados desproporcionadamente por esta forma de escucha titulizada, y los intereses de todas las familias no estarán protegidos ni servidos de manera uniforme. Una crítica recurrente de la tecnología activada por voz es que reproduce los sesgos culturales y raciales al hacer cumplir las normas vocales y reconocer mal las formas de habla culturalmente diversas en relación con el lenguaje, el acento, el dialecto y la jerga.

Podemos anticipar que el discurso y las voces de los niños y jóvenes racializados serán desproporcionadamente malinterpretados como un sonido agresivo. Esta predicción inquietante no debería sorprenderlo, ya que sigue las historias supremacistas coloniales y blancas profundamente arraigadas que constantemente vigilan una línea de color sónico.

Política sólida

Evesmining es un rico sitio de información y vigilancia a medida que las actividades sónicas de los niños y las familias se han convertido en fuentes valiosas de datos a recopilar, monitorear, almacenar, analizar y analizar