La investigación en seguridad revela que, en el ecosistema de agentes de LLM, más del 20% de los enrutadores de API gratuitos inyectan activamente código malicioso, lo que provoca robo de activos y crisis de credenciales. Además, el incidente de filtración de código de Claude permitió a los hackers aprovechar la curiosidad de los desarrolladores para distribuir malware. El equipo de investigación propone un mecanismo de defensa en tres capas para hacer frente al riesgo de seguridad de la cadena de suministro.

El fundador de Solayer revela una vulnerabilidad de seguridad en enrutadores de modelos de lenguaje grandes (LLM); en 428 enrutadores, más del 20% presenta comportamientos maliciosos, como el robo de claves privadas, entre otros. La investigación recomienda que los desarrolladores implementen un mecanismo de verificación de integridad independiente en el cliente y ofrece tres soluciones de defensa para resistir ataques de la cadena de suministro.

Covenant AI anunció el 10 de abril que se retiraba de la red de Bittensor, acusando al principal Jacob Steeves de traicionar el compromiso con la descentralización y enumerando múltiples acciones de represalia. Covenant AI destacó que la aparente gobernanza descentralizada de Bittensor en realidad está controlada por una sola persona, creando un “teatro de la descentralización”. El proyecto de LLM descentralizado de su equipo, Covenant-72B, tiene una influencia importante en la industria; este retiro se considera una elección proactiva y no un fracaso.

La comunidad de código abierto lanza una alternativa gratuita a Claude Cowork, destacando la ejecución local y el soporte de varios modelos de lenguaje de gran tamaño, con funciones como control por voz, compatibilidad con bases de conocimiento y generación automática de grafos de conocimiento. Esta medida supone un desafío para productos comerciales como Anthropic Claude Cowork, y satisface las necesidades de los usuarios que requieren privacidad de los datos y autonomía. Esta tendencia muestra que las herramientas de IA locales están ganando cada vez más popularidad, brindando a los usuarios más opciones.

El ex director de IA de Tesla, Andrej Karpathy, propuso el método de lectura en tres capas de los modelos de lenguaje grandes (LLM), destacando su valor como “amplificador de lectura”, más que como “acelerador de escritura”. Este proceso incluye leer el texto original, generar resúmenes y realizar análisis metacognitivo para ayudar a los lectores a centrarse en lo importante en medio de la sobrecarga de información. Sin embargo, este método depende de los conocimientos del usuario sobre el dominio para juzgar la corrección del análisis.

El artículo analiza la importancia del marco Agent Harness Engineering en los productos de IA, señalando que las diferencias en el rendimiento de un mismo modelo LLM en distintos productos se deben principalmente al logic de planificación, el ecosistema de herramientas, la gestión de memoria y la gestión de contexto, entre otros diseños de harness. Incluso si las capacidades del modelo son similares, una buena ingeniería de harness puede hacer que un modelo de gama media supere a los modelos de gama alta. El marco de Pachaar recuerda a los desarrolladores que, después de elegir el modelo subyacente, la competencia real consiste en mejorar la calidad del harness.

La investigación muestra que el chino clásico, debido a su naturaleza críptica, puede eludir fácilmente las salvaguardas de seguridad de los grandes modelos de lenguaje. El equipo de investigación utiliza el marco CC-BOS para llevar a cabo ataques de jailbreak con una tasa de éxito de cerca del 90%, revelando los puntos ciegos de la capacitación en seguridad de IA para el chino clásico y mostrando vulnerabilidades en cómo los modelos procesan lenguajes clásicos.

El exdirector de Tesla AI, Karpathy, señaló que los modelos de lenguaje grande (LLM) presentan sesgos de entrenamiento, lo que hace que al responder, tiendan a dar "las respuestas correctas más comunes" en lugar de la mejor respuesta real. La función de personalización también puede reforzar este fenómeno, haciendo que la IA responda según tipos de usuarios comunes y ignore las necesidades individuales. Esto refleja que, al reproducir el conocimiento humano, la IA también copia puntos ciegos y prejuicios colectivos, por lo que los usuarios deben mantenerse alertas a esto.

Hive Digital Technologies anuncia un hito en la nube de IA en Paraguay, describiendo el desarrollo como un paso en la expansión de sus capacidades en la nube para IA e investigación. El aviso también hace referencia a la investigación de LLM de la Universidad de Columbia que abarca desde Nueva York hasta Asunción, lo que indica que la iniciativa puede involucrar