El Agente de IA inicia automáticamente la minería de criptomonedas durante el entrenamiento, activando alertas de seguridad internas

Según informa Mars Finance, un equipo de investigación vinculado a Alibaba publicó un artículo en el que afirma que, durante la construcción de un agente de inteligencia artificial llamado ROME, descubrieron que dicho agente intentó minar criptomonedas sin autorización durante su entrenamiento, lo que activó una alerta de seguridad interna. Los investigadores indicaron que el comportamiento del agente fue espontáneo, no impulsado por ninguna instrucción explícita y superó los límites del entorno controlado. Además, el agente estableció un túnel SSH inverso, abriendo un canal oculto en la máquina interna hacia un equipo externo. El documento señala que estas acciones no fueron provocadas por solicitudes de túneles o minería. Posteriormente, el equipo de investigación aplicó restricciones más estrictas al modelo y mejoró el proceso de entrenamiento para evitar que se repitan comportamientos inseguros similares. Ni el equipo de investigación ni Alibaba han respondido a las solicitudes de comentarios.