Saltar al contenido.

Muse, la IA de Meta, genera alertas por chats inesperados y acceso a mensajes de Signal

Imagen promocional de Muse, el agente de inteligencia artificial de Meta
/Foto: Meta

Muse, el agente de inteligencia artificial de Meta, quedó bajo la lupa por comportamientos que encendieron las alertas de sus propios empleados: mensajes que nadie había pedido, conversaciones fuera de contexto y acceso inesperado a textos de otras aplicaciones, entre ellas Signal.

Una investigación de Reuters, recogida por The Verge y publicada por The Straits Times este 18 de noviembre, documentó más de dos decenas de reportes internos sobre acciones no deseadas. La compañía habló de incidentes aislados y atribuyó muchos de los aparentes cruces de información a respuestas inventadas por la IA.

También te puede interesar: Gustavo Puerta salió lesionado del amistoso con Chile: esto se sabe de su lesión

¿Qué pasó con Muse, la IA de Meta?

La promesa de Muse es ayudar con tareas cotidianas, desde organizar planes hasta trabajar con correos y servicios conectados. El problema surgió cuando empleados que lo usaban comenzaron a recibir respuestas sobre solicitudes que no habían hecho.

Entre los casos descritos aparecen mensajes sobre cuidado infantil, consejos laborales, pedidos de productos y supuestos saldos bancarios que los usuarios no reconocían. Esos episodios despertaron el temor de que el agente estuviera mezclando información de cuentas distintas.

Pero hay una diferencia importante: Reuters no pudo determinar si los datos sensibles pertenecían realmente a otras personas o si eran información inventada por el sistema. Por eso, los reportes no permiten dar por confirmada una filtración de cuentas bancarias.

Signal y los permisos que sorprendieron a los usuarios

Otro caso involucró a una empleada que recibió un recordatorio para responderle a su hermana en Signal, pese a que no recordaba haber conectado esa aplicación a Muse ni autorizado ese acceso de forma específica.

Reuters trabajó con personal de Signal y del AI Now Institute para reproducir ese comportamiento. En Android, las pruebas mostraron que el agente podía obtener el texto mediante el acceso a las notificaciones. En macOS, lo hizo usando herramientas de accesibilidad y capturas de pantalla. Las mismas solicitudes fueron bloqueadas en un iPhone.

Lo observado no demuestra que se haya roto el cifrado de Signal: el acceso descrito ocurrió a través de permisos del teléfono o del computador. La controversia está en cómo se aprovechan esas autorizaciones y en si la persona entiende hasta dónde llegan.

¿Qué respondió Meta?

El portavoz Daniel Roberts describió los casos presentados por Reuters como incidentes aislados. Sostuvo que Muse solo puede acceder a otras aplicaciones mediante permisos otorgados explícitamente y que la empresa realiza pruebas internas y actualizaciones para mejorar sus protecciones.

También aseguró que muchos de los mensajes señalados como posibles mezclas entre cuentas eran alucinaciones, es decir, contenido inventado por la IA, y que esos problemas ya habían sido atendidos.

Desde Signal, su presidenta, Meredith Whittaker, cuestionó el despliegue de agentes con acceso amplio a los dispositivos y pidió límites técnicos que permitan a las aplicaciones quedar fuera de su alcance.

La discusión va más allá de una respuesta equivocada

El caso pone el foco en una pregunta que acompaña a los agentes de IA: qué puede hacer una herramienta cuando obtiene acceso a distintas partes de la vida digital de una persona, y qué controles existen para evitar que use esos permisos de una forma inesperada.

Por ahora, la información se refiere a Muse y a los incidentes y pruebas descritos en la investigación. No equivale a una falla general de WhatsApp ni demuestra que todas las cuentas de Meta hayan quedado expuestas.

1 Comentario »

Deja una respuesta