Amazon ha desactivado dos funciones clave de privacidad en sus altavoces inteligentes Alexa, con el objetivo de introducir “capacidades agente” basadas en inteligencia artificial y obtener beneficios de estos populares dispositivos.

A partir del 28 de marzo, los dispositivos Alexa enviarán todas las grabaciones de audio a la nube para su procesamiento. Si no se guardan, se desactivarán las funciones de personalización.

¿Cómo funcionan los asistentes de voz?

Un asistente de voz funciona escuchando constantemente una “palabra de activación”, como “Alexa”. Una vez activado, graba el comando pronunciado y lo asocia a una acción, como reproducir una pista de música. Asociar un comando pronunciado a una acción requiere lo que los informáticos denominan comprensión del lenguaje natural, lo que puede requerir una gran capacidad de procesamiento.

La asociación de comandos a acciones se puede realizar localmente (en el propio dispositivo) o las grabaciones de sonido se pueden subir a la nube para su procesamiento. El procesamiento en el dispositivo ha mejorado sustancialmente en los últimos años, pero aún es menos preciso que el uso de la nube, donde se dispone de mayor capacidad de procesamiento.

Amazon implementa dos cambios en Alexa

Los dispositivos Alexa envían grabaciones a la nube por defecto. Sin embargo, algunos modelos Echo de gama alta anteriormente admitían una configuración llamada “No enviar grabaciones de voz”.

Si esta configuración estaba activada, todas las grabaciones se procesaban localmente. En la práctica, solo una pequeña fracción de los usuarios de Echo (alrededor del 0.03 %) la tenía activada.

En el primer cambio, esta configuración se desactiva y todas las grabaciones se enviarán a la nube.
Una vez en la nube, las grabaciones se pueden eliminar o guardar.

Las grabaciones guardadas se utilizan para la función de identificación de voz de Amazon, que distingue entre las personas que hablan en el mismo hogar y busca ofrecer una experiencia personalizada.

Los usuarios de Alexa también tienen una configuración llamada “No guardar grabaciones” que, si se activa, elimina las grabaciones en la nube una vez procesadas. En el segundo cambio, si la opción “No guardar grabaciones” está activada, Voice ID dejará de funcionar y, con ello, el acceso a funciones personalizadas, como los eventos de calendario específicos del usuario.

Este cambio en dos pasos implica que los usuarios de Alexa debemos encontrar un equilibrio entre privacidad y funcionalidad.

Alexa pierde mucho dinero

En pocas palabras, Amazon necesita que los dispositivos Echo empiecen a generar ingresos.

Como ha detallado el experto estadounidense en asistentes de voz Joseph Turow, Amazon comenzó a vender dispositivos Echo a precios muy bajos. Amazon afirma haber vendido más de 500 millones de dispositivos Alexa, pero solo entre 2017 y 2021 la compañía ha perdido más de 25,000 millones de dólares en el proyecto.

Amazon apuesta por la IA generativa para impulsar su negocio, con una inversión de 8,000 millones de dólares en Anthropic, competidor de OpenAI.

Un intermediario impulsado por IA

En febrero, Amazon ha lanzado el nuevo sistema Alexa+, impulsado por IA. Promete una interacción más natural y la capacidad de realizar tareas como reservar vuelos. Actualmente, Alexa+ solo está disponible en Estados Unidos.

Las funciones de agencia, como la reserva de vuelos, requieren información detallada del perfil del usuario en cuyo nombre actúan. Esto incluye detalles como los productos o servicios preferidos.

La identificación de voz y los datos de los comandos hablados ayudan a Amazon a vincular las preferencias con una persona en particular.

¿Cómo monetiza Amazon con esto?

La primera forma es mediante cuotas de suscripción directas: el servicio eventualmente solo estará disponible para miembros de Amazon Prime o personas que paguen 19.99 dólares al mes.

Pero lo que podría resultar más importante es que ayudará a Amazon a posicionarse como intermediario entre compradores y vendedores. Esto es lo que Amazon ya hace con su plataforma de comercio electrónico.

Los proveedores de servicios, como aerolíneas o empresas de reservas de restaurantes, pagarían a Amazon cuando Alexa+ les remita clientes.

La iniciativa de Amazon forma parte de un fenómeno más amplio denominado “capitalismo de plataforma”. Este abarca el contenido colaborativo de las plataformas de redes sociales, empresas de “economía colaborativa” como Airbnb y el trabajo autónomo automatizado de empresas como Uber.

El capitalismo de plataforma ha generado beneficios para los consumidores, pero, en general, los mayores beneficios recaen en quienes poseen las plataformas y diseñan su infraestructura, servicios y restricciones.

¿Cómo proteger mi privacidad?

Tras recibir una multa de 25 millones de dólares de la Comisión Federal de Comercio de EE. UU. por retener grabaciones de voz de niños, infringiendo las leyes estadounidenses, Amazon ha revisado la configuración de privacidad de Alexa.

La configuración se puede ver y modificar desde la app de Alexa en tu smartphone, en “Más > Privacidad de Alexa”. Podemos revisar la configuración en “Administrar tus datos de Alexa” para elegir la duración de las grabaciones y qué grabaciones de voz eliminar. Las grabaciones también se pueden eliminar mediante un comando de voz.

A medida que Alexa+ se generalice, los usuarios debemos decidir si deseamos compartir datos sobre nuestras preferencias con Amazon para habilitar las funciones de agente.

¿Cuáles son las alternativas?

Para quienes no se sienten cómodos con las opciones de privacidad disponibles con Alexa, un asistente de voz privado puede ser una mejor opción.

La Vista Previa de Voz de Home Assistant es un ejemplo. Permite procesar las grabaciones de voz en el dispositivo, pero ofrece menos funciones que Alexa y no es compatible con tantos otros servicios. Además, no es muy fácil de usar, ya que está dirigido a usuarios con conocimientos técnicos.

Podríamos tener que elegir entre privacidad y funcionalidad, tanto dentro de Alexa como al considerar alternativas. También es posible que nos encontremos lidiando con nuestro propio lugar en los sistemas cada vez más ineludibles del capitalismo de plataformas.

Kathy Reid, PhD Candidate, School of Cybernetics, Australian National University

This article is republished from The Conversation under a Creative Commons license. Read the original article.