Muse, la IA de Meta, genera alertas por chats inesperados y acceso a mensajes de Signal

Muse, el agente de inteligencia artificial de Meta, quedó bajo la lupa por comportamientos que encendieron las alertas de sus propios empleados: mensajes que nadie había pedido, conversaciones fuera de contexto y acceso inesperado a textos de otras aplicaciones, entre ellas Signal.
Una investigación de Reuters, recogida por The Verge y publicada por The Straits Times este 18 de noviembre, documentó más de dos decenas de reportes internos sobre acciones no deseadas. La compañía habló de incidentes aislados y atribuyó muchos de los aparentes cruces de información a respuestas inventadas por la IA.
¿Qué pasó con Muse, la IA de Meta?
La promesa de Muse es ayudar con tareas cotidianas, desde organizar planes hasta trabajar con correos y servicios conectados. El problema surgió cuando empleados que lo usaban comenzaron a recibir respuestas sobre solicitudes que no habían hecho.
Entre los casos descritos aparecen mensajes sobre cuidado infantil, consejos laborales, pedidos de productos y supuestos saldos bancarios que los usuarios no reconocían. Esos episodios despertaron el temor de que el agente estuviera mezclando información de cuentas distintas.
Pero hay una diferencia importante: Reuters no pudo determinar si los datos sensibles pertenecían realmente a otras personas o si eran información inventada por el sistema. Por eso, los reportes no permiten dar por confirmada una filtración de cuentas bancarias.
Signal y los permisos que sorprendieron a los usuarios
Otro caso involucró a una empleada que recibió un recordatorio para responderle a su hermana en Signal, pese a que no recordaba haber conectado esa aplicación a Muse ni autorizado ese acceso de forma específica.
Reuters trabajó con personal de Signal y del AI Now Institute para reproducir ese comportamiento. En Android, las pruebas mostraron que el agente podía obtener el texto mediante el acceso a las notificaciones. En macOS, lo hizo usando herramientas de accesibilidad y capturas de pantalla. Las mismas solicitudes fueron bloqueadas en un iPhone.
Lo observado no demuestra que se haya roto el cifrado de Signal: el acceso descrito ocurrió a través de permisos del teléfono o del computador. La controversia está en cómo se aprovechan esas autorizaciones y en si la persona entiende hasta dónde llegan.
¿Qué respondió Meta?
El portavoz Daniel Roberts describió los casos presentados por Reuters como incidentes aislados. Sostuvo que Muse solo puede acceder a otras aplicaciones mediante permisos otorgados explícitamente y que la empresa realiza pruebas internas y actualizaciones para mejorar sus protecciones.
También aseguró que muchos de los mensajes señalados como posibles mezclas entre cuentas eran alucinaciones, es decir, contenido inventado por la IA, y que esos problemas ya habían sido atendidos.
Desde Signal, su presidenta, Meredith Whittaker, cuestionó el despliegue de agentes con acceso amplio a los dispositivos y pidió límites técnicos que permitan a las aplicaciones quedar fuera de su alcance.
La discusión va más allá de una respuesta equivocada
El caso pone el foco en una pregunta que acompaña a los agentes de IA: qué puede hacer una herramienta cuando obtiene acceso a distintas partes de la vida digital de una persona, y qué controles existen para evitar que use esos permisos de una forma inesperada.
Por ahora, la información se refiere a Muse y a los incidentes y pruebas descritos en la investigación. No equivale a una falla general de WhatsApp ni demuestra que todas las cuentas de Meta hayan quedado expuestas.
- Síguenos en nuestras redes sociales y mantente informado: Instagram/ Twitter/ Facebook/ Pinterest y únete a la conversación en nuestro grupo de Whatsapp o canal de Whatsapp o canal de Telegram

1 Comentario »