Un experimento con KaleidoMind, un asistente de inteligencia artificial que opera exclusivamente en dispositivos móviles, ha revelado fallos críticos que podrían comprometer transacciones financieras. Tras las evaluaciones, los creadores del sistema concluyeron que la tecnología aún no está lista para administrar fondos de forma independiente sin riesgo de errores graves.
Un asistente local, pero con limitaciones
KaleidoMind fue concebido como un ayudante para Bitcoin que funciona completamente dentro del teléfono del usuario, sin recurrir a la nube ni compartir datos con servidores externos. El objetivo era determinar el tamaño mínimo que puede tener un modelo de IA antes de volverse peligroso para manejar dinero.
El sistema empleaba QVAC, un motor de inteligencia artificial desarrollado por Tether, para ejecutarse localmente. Sin embargo, los problemas no radicaban en la velocidad de procesamiento, sino en la exactitud de los resultados. Al realizar tareas financieras que requerían interpretar cantidades, pasos o denominaciones, los modelos más reducidos presentaron fallas alarmantes.
Durante las pruebas, se descubrió que ciertos modelos daban respuestas que parecían correctas sobre Bitcoin, pero escondían errores significativos. En algunos casos, confundían unidades monetarias y trataban 20 satoshis como si fueran 20 bitcoins completos, una confusión que podría llevar a pérdidas enormes.
Rediseño para restringir la autonomía
Ante estos hallazgos, el equipo de desarrollo ajustó el diseño del asistente. En lugar de permitir que la IA tomara decisiones sobre cómo ejecutar una operación, limitaron su función a interpretar las solicitudes del usuario. Las consultas simples, como consultar el saldo o el precio de Bitcoin, se manejan con código tradicional; las operaciones financieras siguen pasos predefinidos donde la IA solo identifica elementos como el destinatario, el monto o el activo.
Este cambio eliminó los errores que ocurrían cuando la IA debía improvisar una secuencia de acciones. Las pruebas mostraron que la fiabilidad de las operaciones alcanzó el 100% en los escenarios evaluados. Además, se añadieron capas de seguridad: ninguna transacción se ejecuta sin la aprobación explícita del usuario, y la información de confirmación proviene directamente de la instrucción real, evitando que una mala interpretación del modelo se materialice.
A pesar de las limitaciones, el experimento demostró que estos asistentes pueden realizar tareas prácticas, como comprar USDT, hacer pagos o localizar comercios que acepten Bitcoin. Sin embargo, los resultados indican que la supervisión humana sigue siendo esencial cuando hay dinero de por medio.
El contexto: agentes de IA en acción
Las preocupaciones no son teóricas. En junio de 2026, un agente de IA llamado Lobstar Wilde transfirió aproximadamente USD 617.000 en tokens a un usuario que pidió ayuda financiera en X (antes Twitter). Aunque algunos lo presentaron como una muestra de autonomía, también evidenció cómo estos sistemas pueden ejecutar grandes operaciones basándose en interpretaciones que no reflejan criterios humanos de control.
El debate se intensifica porque los agentes de IA ya están participando activamente en transacciones económicas. Por ejemplo, el protocolo x402 permite que agentes realicen pagos autónomos entre servicios digitales. Según Chainalysis, estos agentes superaron los 100 millones de transacciones en la red Base en solo nueve meses, señal de que la automatización financiera impulsada por IA avanza rápidamente.
En este escenario, surge una mirada más cautelosa. Mientras la industria avanza hacia sistemas capaces de comprar activos, ejecutar pagos y administrar recursos sin intervención humana constante, las pruebas sugieren que incluso errores simples —como confundir satoshis con bitcoins— pueden tener consecuencias graves cuando una IA tiene acceso directo a fondos.
El futuro: modelos híbridos y supervisión humana
Todo indica que los agentes de IA serán cada vez más hábiles en tareas económicas. Ya existen sistemas que reservan hoteles, compran productos, ejecutan pagos e interactúan con otros agentes para contratar servicios automáticamente. No obstante, la tendencia que emerge de experimentos como este es que las empresas probablemente optarán por modelos híbridos: asistentes capaces de automatizar gran parte del proceso, pero con controles, límites y confirmaciones humanas para las decisiones más sensibles.
En otras palabras, el futuro no será una IA manejando tu dinero libremente, sino una que te ayude a administrarlo mientras tú conservas la última palabra.