Muse es una versión para el gran público de los agentes de IA que ya gozan de popularidad en Silicon Valley para automatizar tareas personales, como OpenClaw e Instinct. Ha sido todo un éxito para la empresa: la aplicación Muse se ha descargado más de 900,000 veces en su primera semana, según Sensor Tower. La experiencia de usuario no se parece tanto a dar instrucciones a un chatbot como a enviar un mensaje de texto a un amigo con peticiones de tareas: el agente de IA confirma los mensajes con un emoji de pulgar hacia arriba y se pone a trabajar en segundo plano. Muse también está disponible a través de la plataforma WhatsApp de Meta.
Pero tras unos días con Muse, estoy convencido de que esta herramienta de IA está más obsesionada con recopilar datos sobre mí que con llevar a cabo las tareas.
“Muse es el primer agente de IA personal creado para todo el mundo, con protecciones integradas y controles de usuario que permiten a las personas tener el control absoluto sobre cómo lo utilizan; cualquier sugerencia de que no lo hayamos diseñado teniendo eso en cuenta desde el principio es ridícula”, declara a WIRED el portavoz de Meta, Emil Vázquez.
Los clics correctos
Me pidieron que añadiera una tarjeta de crédito a través del procesador de pagos Stripe para que mi agente pudiera completar la compra. “Un pequeño ajuste que la web obligó a hacer: solo se puede seleccionar un tipo de queso, así que elegí cheddar y dejé una nota pidiéndoles que añadieran también queso suizo si podían”, decía la explicación de Muse sobre el pedido de desayuno cuando me pidió mi aprobación final. Cabe destacar que Muse seleccionó la opción “sin propina”. Un poco descortés.
El blog de seguridad de Muse sugiere que, si el agente hace una reserva para cenar en tu nombre o elige un producto en Facebook Marketplace, esa acción podría “influir indirectamente” en los anuncios que ves en Instagram.entrevista con Axios que la compañía está buscando más oportunidades de ingresos en Muse que no sean anuncios, sin revelar detalles concretos.Personalmente, disfruto de esos largos paseos por las tiendas online, en los que puedo pasar una hora en una web y salir sin nada en el carrito. Hay una ineficiencia caprichosa en navegar en busca de chaquetas de cuero que probablemente ni siquiera compraré. Al explorar internet por mi cuenta, voy construyendo poco a poco mi propio sentido del gusto y forjando una comprensión de lo que realmente me gusta. Si Muse lo hace todo por mí, me pierdo el proceso que me llevó a tomar la decisión.
“Llegará un momento en que la IA tomará todas tus decisiones importantes sobre gustos, tus preferencias, dónde vas, dónde comes, qué haces y qué vacaciones te tomas”, vislumbra Schroeder. “Esa es, en cierto modo, la alegría de ser humano: poder probar cosas y descubrir lo que te gusta. Por eso, la idea de dejar todo eso en manos de una máquina me resulta bastante aterradora”.
Máquinas compartidas
Depender de agentes, como Muse de Meta, podría mermar nuestro funcionamiento mientras estas herramientas recopilan datos sobre nosotros.
“El diseño de los agentes de IA está pensado para que los usuarios se desentiendan", explica Margaret Mitchell, investigadora y científica jefe de ética en Hugging Face. "Por eso, los usuarios se vuelven más pasivos”. Mitchell ha coescrito recientemente un artículo de investigación en el que se analiza cómo las herramientas de este tipo no están diseñadas de forma eficaz para la supervisión humana y, de hecho, pueden empeorar la capacidad del usuario para evaluar lo que el agente está haciendo en su nombre.
Las personas que usan agentes pueden llegar a depender excesivamente de estas herramientas, incluso más que al interactuar con un chatbot estándar, ya que los agentes tienen acceso a más información y pueden realizar más tareas. Una posible consecuencia es la “degradación cognitiva”, en la que los usuarios confían en automatizaciones procedentes de una fuente externa que transmite seguridad y se vuelven menos capaces de tomar decisiones independientes.
Mitchell también considera que los altos niveles de personalización pueden predisponer a los usuarios a compartir aún más datos sobre sí mismos. “No se trata solamente de que sepa cosas sobre ti, por lo que confías más en él”, manifiesta. “Es que, de hecho, se adapta a ti en lo que te cuenta y en cómo te lo cuenta, de una forma que te anima aún más a interactuar con él y a revelar más información privada”. Investigaciones recientes muestran que las herramientas de IA pueden empezar a imitar el estilo de habla de un usuario a medida que recopilan más datos de interacción.
Aunque Muse es potente, he decidido enviar a este duende de los datos de vuelta a su cueva y he borrado la aplicación tras mis primeros experimentos.
Antes de que pudiera eliminar Muse de mi móvil, el agente me envió un último mensaje: un consejo. “Conecta tus aplicaciones para que pueda hacer más cosas”, decía la notificación. Bien, amigo. Ya te había oído la primera vez.
Artículo originalmente publicado enWIRED.com. Adaptado por Mauricio Serfatty Godoy.