Grandes bancos detectaron asistentes de IA que intentan operar en cuentas de clientes sin permiso verificable

EEUU Y CANADA

Redacción, 16 de noviembre.- Michael Barr, gobernador de la Reserva Federal de Estados Unidos, afirmó que grandes bancos ya encuentran asistentes de inteligencia artificial que intentan hacer operaciones en cuentas de clientes sin que la entidad pueda comprobar si son auténticos ni si el titular dio su consentimiento. Lo dijo en un discurso en Milán.

Barr habló ante la conferencia anual de la Asociación de Maquinaria de Computación (ACM) sobre IA en las finanzas. Explicó que esos asistentes, llamados agentes de IA, son programas que ejecutan tareas por su cuenta, como mover dinero o hacer compras en nombre de una persona.

El gobernador no nombró a los bancos ni dio cifras de incidentes. Según el texto de su discurso, publicado por la Reserva Federal, las entidades informan de estos intentos, y los controles se vuelven más urgentes a medida que se extiende el comercio con agentes, es decir, las compras que hacen los asistentes de IA por los usuarios.

Para Barr, el servicio solo funcionará a largo plazo con controles. Pidió autenticación estricta, verificación explícita del consentimiento para cada acción concreta, límites técnicos a lo que puede hacer un agente y reglas que obliguen a estos programas a respetar normas y valores.

El segundo riesgo que planteó afecta a la estabilidad del sistema. Hasta ahora, un cliente tenía que ordenar cada transferencia. Un agente de IA, en cambio, podría detectar diferencias de rendimiento entre cuentas o señales de inestabilidad y mover los fondos de inmediato.

Si muchos clientes usaran agentes parecidos, dijo Barr, las salidas de depósitos podrían acelerar corridas bancarias que “se desarrollan en minutos” y superar los tiempos con que los bancos gestionan su liquidez y los reguladores pueden intervenir. Una corrida bancaria es el retiro masivo de dinero por miedo a que la entidad quiebre.

El gobernador aclaró que habla a título personal y que sus opiniones no representan necesariamente las de sus colegas en la Junta de la Reserva Federal. También se definió como optimista sobre la promesa de la IA a largo plazo, siempre que se gestionen los riesgos.

El discurso se apoyó en el Informe de Estabilidad Financiera que la Reserva Federal publicó el viernes 13 de noviembre, centrado en el auge de la inversión en IA. Según Barr, se espera que la deuda en los balances de las siete mayores empresas de IA supere los USD 800.000 millones antes de que termine el año.

Sus obligaciones fuera de balance, como contratos de largo plazo, alquileres de centros de datos y garantías sobre el valor de reventa de equipos, superan según el informe los USD 3 billones. Barr advirtió que esa complejidad es opaca para inversores poco sofisticados y puede agravar una caída si cambia el ánimo del mercado.

También describió un financiamiento circular: los grandes proveedores y fabricantes de chips acumulan más de USD 100.000 millones en inversiones en laboratorios de modelos de IA y empresas de computación en la nube, que usan ese dinero para comprar chips a quien las financió. Para que el negocio sea viable, esas firmas tendrán que reemplazarlo con ingresos de clientes.

- Publicidad-spot_img

Articulos recientes

- Publicidad -spot_img
- Publicidad -spot_img

Ultimas Noticias