Nexus está construyendo una organización de I + D para crear agentes de inteligencia artificial que sean transparentes y verificables para sus usuarios.
La inteligencia artificial continúa llamando la atención en el espacio blockchain, la compañía de infraestructura Nexus anunció el jueves 8 de mayo, el lanzamiento de su dedicado laboratorio de investigación y desarrollo de IA: el Laboratorio de IA verificable Nexus.
El Laboratorio de IA verificable Nexus funcionará en la verificación de blockchain de puente con inteligencia artificial. Se centrarán en desarrollar modelos de IA que sean auditables y confiables, con la ayuda de pruebas de conocimiento cero.
También te puede gustar: ¿La pesadilla más grande de Big Tech? AI descentralizada | Opinión
El objetivo principal es abordar una creciente preocupación con los modelos de idiomas grandes de hoy: su falta de transparencia. Actualmente, los usuarios no tienen idea de cómo los sistemas de IA llegan a salidas específicas, ni pueden determinar si esas salidas provienen de la lógica de la máquina o la entrada humana.
La IA necesita ser transparente para crecer: Nexus
La opacidad de los sistemas AI es una preocupación particular en las industrias reguladas. En industrias como la atención médica, las finanzas, etc., los usuarios corporativos deben saber de dónde provienen los datos de capacitación y cómo el modelo genera sus resultados.
“Los sistemas de IA modernos son poderosos, pero opacos. Rara vez sabemos exactamente en qué datos fueron capacitados, qué versión se implementó, o si el resultado que vemos fue realmente generado por el modelo que probamos. En dominios regulados como la atención médica, las finanzas y la ley, esta opacidad es un trato”, Nexo escribió
Los esfuerzos de Nexus muestran la creciente convergencia entre las tecnologías de IA y Blockchain. En particular, los sistemas blockchain pueden proporcionar la transparencia y la naturaleza de código abierto que carecen los modelos actuales de IA.
Además, Nexus es solo una de las compañías que trabajan en IA verificable. Por ejemplo, el Protocolo OASIS lanzó sus agentes de IA verificables el 29 de abril. Con estos agentes, los usuarios pueden verificar de forma independiente cómo están aplicando la estrategia comercial correcta.
Leer más: La IA de código abierto no es el juego final: la AI Onchain es | Opinión
