Conclusiones clave
- El uso de servicios tradicionales de IA puede exponer información confidencial, resaltando preocupaciones críticas de seguridad.
- Blockchain puede facilitar el etiquetado de datos y el crowdsourcing en IA, mejorando la eficiencia.
- La IA cambiará fundamentalmente la forma en que interactuamos con la informática, reemplazando potencialmente a los sistemas operativos tradicionales.
- La IA servirá como una interfaz que conecte varios servicios, incluidos los financieros, sin problemas.
- Blockchain sirve como raíz de confianza para la infraestructura de IA, permitiendo una gestión segura de la identidad.
- El dinero se está volviendo cada vez más importante a medida que la IA acelera la necesidad de un mercado para la coordinación de recursos.
- La IA cerrará la brecha entre los sistemas tradicionales y los sistemas basados en blockchain.
- La IA puede facilitar las interacciones con las burocracias tradicionales al manejar tareas procesales.
- El espacio de la IA se caracteriza actualmente por una abundancia de visión pero una falta de utilidad.
- La seguridad es el mayor obstáculo en el desarrollo de sistemas de garras abiertas.
- Gestionar el acceso y la confianza en los sistemas de IA es fundamental para evitar su uso indebido.
- Near.ai está desarrollando una solución de IA privada que garantiza la privacidad de los datos del usuario durante la inferencia de IA.
- La IA propiedad del usuario garantiza que las personas tengan control y transparencia sobre los sistemas de IA con los que interactúan.
- Ironclaw proporciona un entorno seguro para ejecutar modelos de IA que protege los datos del usuario.
- La confianza en proveedores de hardware como Intel y Nvidia es fundamental para las operaciones seguras en informática.
Introducción de invitado
Illia Polosukhin es la fundadora y directora ejecutiva de $ CERCA Protocolo y el $ CERCA Base. Fue coautor del artículo fundamental “La atención es todo lo que necesitas”, que presentó la arquitectura Transformer, fundamental para los sistemas de inteligencia artificial modernos. Su trabajo une la IA y la cadena de bloques para permitir agentes de IA seguros y escalables como IronClaw.
Los riesgos de utilizar servicios tradicionales de IA
- El uso de servicios tradicionales de IA puede exponer información confidencial, incluidas claves y tokens de acceso.
- “Una cosa de la que la gente no se da cuenta cuando usa openai entrópico o, peor aún, cuando usa otra cosa para inferir, opencloud en realidad también envía todos sus secretos a esos servicios… en realidad es una locura que estemos haciendo eso”. – Illia Polosukhin
- Comprender los riesgos asociados con el uso de servicios de inteligencia artificial de terceros es crucial para la seguridad de los datos.
- Las criptomonedas proporcionan una solución natural para pagos globales sin las complejidades de la banca tradicional.
- “Las criptomonedas eran una solución bastante natural que necesitábamos para nuestros propios problemas… puedes simplemente enviar dinero a la gente a través de Internet”. – Illia Polosukhin
- Se esperaba que la intersección de la IA y la cadena de bloques fuera significativa mucho antes de que se convirtiera en algo común.
- “Quiero decir, la parte principal fue que el cálculo no estaba allí… tan pronto como eso cruzó el abismo, fue cuando este modelo comenzó a escalar”. – Illia Polosukhin
- Blockchain puede facilitar el etiquetado de datos y el crowdsourcing en IA, haciendo que los procesos sean más eficientes.
- “Piense en la IA a escala… eso es solo un contrato inteligente. De hecho, hemos estado funcionando casi en masa desde 2021 y no tiene empleados”. – Illia Polosukhin
El futuro de la IA y la informática
- La IA cambiará fundamentalmente la forma en que interactuamos con la informática, reemplazando potencialmente a los sistemas operativos tradicionales.
- “Mi tesis principal es que la IA será la forma en que interactuemos con la informática… las computadoras escribirán todo el código, lo que significa que el sistema operativo y las aplicaciones serán reemplazados por esta IA”. – Illia Polosukhin
- Será necesario actualizar la arquitectura de servicios actual de los sistemas operativos para dar cabida a las interacciones de la IA.
- “Muchas cosas se rompen con la IA, por lo que es necesario arreglarlas y bloquear los cambios, tener todas las piezas resueltas o al menos tener herramientas para descubrir cómo resolver eso”. – Illia Polosukhin
- La IA eventualmente reemplazará a los sistemas operativos tradicionales, creando una experiencia de usuario más integrada.
- “Creo que comenzará poco a poco… donde al final será como si tu teléfono simplemente viniera con IA… extrae todas las piezas que necesita, compone el software que necesitas”. – Illia Polosukhin
- La IA servirá como una interfaz que conecta varios servicios, incluidos los financieros, de manera transparente.
- “Si la IA es la interfaz, entonces todo lo que usted describió en tipo de blockchain y criptografía son estas partes de los servicios”. – Illia Polosukhin
Blockchain como raíz de confianza para la IA
- Blockchain sirve como raíz de confianza para la infraestructura de IA, permitiendo una gestión segura de identidades y actualizaciones de protocolos.
- “Blockchain es realmente la raíz de la confianza… puedes tener una capacidad de actualización que en cierto modo se rige por todo el protocolo”. – Illia Polosukhin
- La IA es una interfaz de usuario, mientras que blockchain actúa como centro de coordinación de backend.
- “Normalmente digo que la IA es una interfaz de usuario, la cadena de bloques es un back-end”. – Illia Polosukhin
- Blockchain proporciona un método descentralizado para actualizar sistemas, en contraste con el control centralizado donde una sola entidad puede imponer cambios.
- “Lo que blockchain nos permite tener este tipo de acuerdo más amplio para actualizar a algo… si alguien en Microsoft que posee esa clave decide romper con todos o robar la información de todos, como si ellos también pudieran hacerlo”. – Illia Polosukhin
- El dinero se está volviendo cada vez más importante a medida que la IA acelera la necesidad de un mercado donde los agentes puedan coordinar recursos e información.
- “El dinero es un componente extremadamente importante, al final tenemos una cantidad limitada de recursos y un deseo ilimitado y la IA simplemente acelerará eso”. – Illia Polosukhin
El papel de la IA para unir los sistemas tradicionales y blockchain
- La IA cerrará la brecha entre los sistemas tradicionales y los sistemas basados en blockchain.
- “Los veo usando el mismo sistema… lo que la IA realmente hace es cerrar esa brecha… en realidad puede hacer todo eso en su nombre”. – Illia Polosukhin
- La IA puede facilitar las interacciones con las burocracias tradicionales al manejar tareas procesales.
- “La IA puede ir y literalmente llamar a una oficina de propiedad si es necesario… puede redactar un contrato… y enviarlo por correo electrónico al notario para que lo certifique”. – Illia Polosukhin
- El espacio de la IA se caracteriza actualmente por una abundancia de visión pero una falta de utilidad.
- “En este momento, en el espacio de la IA, al igual que al escuchar todas las conversaciones, hay una abundancia de visión y una falta de utilidad y creo que se está viendo esto expresado en todas partes”. – Illia Polosukhin
- La falta de utilidad de la IA se debe en parte a que las empresas dudan en proporcionar el contexto y la información necesarios para que los sistemas de IA funcionen de manera efectiva.
- “La otra cara de la moneda es que nadie está realmente dispuesto a darle todo el contexto, la información y el acceso que necesita para ser como su verdadero empleado porque tiene miedo de que lo arruine”. – Illia Polosukhin
Seguridad y privacidad en los sistemas de IA
- La seguridad es el mayor obstáculo en el desarrollo de sistemas de garras abiertas.
- “Creo que la seguridad en un sentido más amplio, no sólo como mhmm, es el mayor cuello de botella en este momento”. – Illia Polosukhin
- Ironclaw tiene como objetivo aprovechar los principios de blockchain para crear un sistema operativo seguro.
- “Es por eso que comenzamos Ironclaw, que es como, oye, ¿cómo construimos realmente un sistema seguro? ¿Cómo aprovechamos todo el conocimiento que tenemos de blockchain y utilizamos los principios que tenemos allí para aplicarlos aquí?”. – Illia Polosukhin
- El estado actual de Open Claw es similar al ‘momento PalmPilot’ antes de un gran avance en los sistemas operativos móviles.
- “Creo que Ironclaw es en realidad como el momento iOS de los sistemas operativos móviles en este momento, como si estuviéramos en este momento como el piloto de palma en este momento”. – Illia Polosukhin
- Gestionar el acceso y la confianza en los sistemas de IA es fundamental para evitar su uso indebido.
- “Si estamos configurando un sistema de administración de claves, probablemente no le darás acceso completo a todos tus fondos a una sola persona, ¿verdad? Te gustará, puedes gastar tanto, pero luego necesitas aprobación”. – Illia Polosukhin
Innovaciones en privacidad de IA y control de usuarios
- Near.ai está desarrollando una solución de IA privada que garantiza que ni el proveedor del modelo ni el proveedor de hardware puedan acceder a los datos del usuario durante la inferencia de IA.
- “En lo que casi dot ai ha estado trabajando durante el año pasado es en realidad desarrollar cómo hacemos inteligencia artificial privada y cómo ofrecemos realmente inteligencia artificial donde ni nosotros, el proveedor de hardware del proveedor de modelos, podemos acceder a lo que estás utilizando la inferencia de inteligencia artificial”. – Illia Polosukhin
- El futuro de la IA no será que todos utilicen una computadora en casa, de la misma manera que no todos ejecutan un nodo blockchain.
- “Si escuchara a alguien decir que sí, este es el futuro de la IA, todos tendrán una computadora en su casa para ejecutar su asistente de IA, recordaría… cuando dije que todos ejecutarían un nodo dentro de su propia casa y ese es el futuro de las cadenas de bloques, y resulta que ese no es realmente el caso”. – Illia Polosukhin
- La IA propiedad del usuario garantiza que las personas tengan control y transparencia sobre los sistemas de IA con los que interactúan.
- “La idea es que deberías saber qué modelo de IA utilizas, deberías poder acceder al indicador del sistema y deberías poder hacer todo esto y luego, obviamente, la mayoría de los usuarios no lo harán, pero la experiencia debería ser muy fácil”. – Illia Polosukhin
- La computación GPU descentralizada coordinada por blockchain puede mejorar la privacidad y la seguridad en las operaciones de IA.
- “Debajo tenemos en realidad una computadora de GPU descentralizada coordinada por blockchain a la que usted sabe que los proveedores de hardware pueden ingresar y enumerar efectivamente su hardware, lo configuraron en modo confidencial”. – Illia Polosukhin
El potencial de Ironclaw en la seguridad de la IA
- Ironclaw proporciona un entorno seguro para ejecutar modelos de IA que protege los datos del usuario.
- “Lo que estás proporcionando es una alternativa completa y autónoma a esto, básicamente, donde puedes ejecutar Ironclaw en un entorno donde tiene un enclave seguro para toda tu información secreta y luego la inferencia llm puede ser una nube confidencial de varias partes… es confidencial y privado”. – Illia Polosukhin
- Las prácticas actuales de envío de datos confidenciales a proveedores de IA son inseguras y problemáticas.
- “Es una locura que estemos haciendo eso… todos tus datos secretos… estén siendo enviados a instancias antrópicas donde están alojados… es tan malo”. – Illia Polosukhin
- La confianza en proveedores de hardware como Intel y Nvidia es fundamental para las operaciones seguras en informática.
- “La firma es que la firma la realiza el propio hardware, por lo que tenemos una especie de confianza aquí para los proveedores de hardware, como Intel y nvidia”. – Illia Polosukhin
- La sobrecarga de los entornos de ejecución confiables (TEE) suele ser inferior al 5 %, a menudo entre el 1 y el 2 %.
- “La sobrecarga real de las camisetas y todo el descifrado de cifrado suele ser de menos del 5%, alrededor del 2% al 1%, según el tamaño del modelo y el tipo de red”. – Illia Polosukhin
El papel de la IA en la eficiencia organizacional
- Los agentes de IA actuales aún no reemplazan a los empleados humanos y tienen limitaciones en la retención del contexto y la confianza.
- “Definitivamente no es un reemplazo para un empleado, pero no es tan bueno como un ser humano en muchas direcciones diferentes”. – Illia Polosukhin
- A los sistemas de IA actuales no se les puede confiar datos privados o información externa, lo que requiere un cambio en la gestión del flujo de trabajo.
- “Otra limitación a la que me refiero estamos enfrentando en este momento, así que sí, no puedes confiarle secretos, no puedes confiarle datos privados y, en este momento, tampoco puedes confiarle lecturas como datos de Internet”. – Illia Polosukhin
- Los flujos de trabajo deben diseñarse para permitir que la IA funcione con una mínima intervención humana, centrándose en tareas rutinarias.
- “El flujo de trabajo debe cambiar justo donde usted no le dice qué hacer, sino que en realidad es usted quien configura estos flujos de trabajo que llamamos rutinas que efectivamente simplemente se ejecutan”. – Illia Polosukhin
- La IA puede actuar como jefe de personal o asistente proporcionando análisis detallados e identificando cuellos de botella organizacionales.
- “Se está convirtiendo en un jefe de personal, se está convirtiendo en un asistente, se está convirtiendo en pasante para algunos trabajos específicos que antes se deshacían… es como si una investigación completa me diera un efecto como, oye, aquí está la hoja de ruta, aquí están los cuellos de botella, aquí están los riesgos potenciales”. – Illia Polosukhin
El panorama en evolución de las capacidades de IA
- Las limitaciones actuales en la longitud del contexto de la IA obstaculizan su eficacia a la hora de procesar grandes cantidades de información.
- “La duración del contexto… donde viste todo el centropic empujado a un millón de contextos parlantes… simplemente se vuelve 10 veces más tonto”. – Illia Polosukhin
- Los avances en IA mejorarán su capacidad para manejar interacciones contextuales más largas debido a la disponibilidad de más datos de entrenamiento.
- “En realidad, ahora hay datos para entrenar esto con un alcance más largo”. – Illia Polosukhin
- Los modelos de IA necesitan una ventana de contexto comparable a la experiencia humana para tomar decisiones efectivas.
- “Cuando hablamos de las limitaciones de un agente de IA que hace cosas por nosotros, necesitamos que pueda extraer datos de una biblioteca comparable que sea equivalente al nivel de experiencia de un ser humano sobre todas las veces que hizo eso y ahora ya no lo hace porque aprendió su lección o su intuición”. – Illia Polosukhin
- Los modelos de IA requieren una ventana de contexto masiva para aprender y utilizar la información de manera efectiva.
- “La ventana de contexto necesita ser lo más masiva posible… ya tiene la capacidad de aprender en contexto, así que este es el concepto de aprendizaje en contexto… todo eso llena su contexto y ahora… en algún momento es como si estuviera bien, estoy fuera de contexto y ahora, para dar el siguiente paso de pensamiento, necesito aclarar las cosas”. – Illia Polosukhin
Tendencias futuras en IA y estructuras organizativas
- El cuello de botella en la codificación ha pasado de escribir código a coordinarlo y revisarlo.
- “El cuello de botella ahora es en realidad serializar todo eso, revisarlo y asegurarse de que todo esté alineado con este producto, etcétera, de modo que la coordinación se convierta en un cuello de botella”. – Illia Polosukhin
- Las organizaciones necesitarán hacer la transición a una estructura más basada en el mercado para manejar una mayor ejecución paralela.
- “De hecho, creemos que también necesitaremos hacer una transición hacia una economía más de mercado en las organizaciones”. – Illia Polosukhin
- El modelo de economía colaborativa se puede aplicar internamente dentro de las organizaciones para mejorar la eficiencia y la ejecución.
- “Internamente también es como una economía de trabajo en la que dices “oye, solo necesito que se haga este trabajo” y estos son mis criterios de éxito y luego, quien lo haga, sabrás que el tipo de unidades de la junta directiva implican equipos muy pequeños”. – Illia Polosukhin
- La eficacia de los equipos pequeños y un mercado competitivo pueden conducir a una mejor ejecución de las tareas.
- “Creo que la victoria aquí son los equipos pequeños y una especie de mercado general donde puedes descargar mucha más ejecución para cosas que puedes verificar fácilmente”. – Illia Polosukhin
El potencial de los agentes autónomos de IA
- A medida que los agentes de IA crezcan en capacidad, es posible que veamos un cambio de agentes automatizados a agentes más autónomos.
- “Creo que veremos surgir algunas de estas cosas y, a medida que la capacidad central y especialmente el contexto mejoren, los sistemas seguirán funcionando cada vez mejor… a medida que estos agentes se vuelvan más capaces, uno podría imaginar que un humano podría elegir disfrutar de su agente, como dejar que su agente simplemente se vaya”. – Illia Polosukhin
- Los agentes de IA pueden operar tanto en modo competitivo como cooperativo, lo que afecta su efectividad.
- “Puede ser cooperativo cuando en realidad tienes un objetivo común y los agentes piensan que, si alcanzas el objetivo común, la recompensa se divide entre todos correctamente y ahora en realidad están tratando de ayudarse entre sí”. – Illia Polosukhin
- La infraestructura descentralizada permite la creación de agentes autónomos que pueden operar de forma independiente para lograr misiones específicas.
- “De hecho, puedes acelerarlo y entonces sabes que un contrato inteligente puede pagar la inferencia y el cálculo y tienes una especie de autonomía total”. – Illia Polosukhin
- El futuro verá el surgimiento de empresas autónomas impulsadas por la IA con misiones específicas, como abordar desafíos globales.
- “Lo que es interesante es más bien, ¿sabes cómo solucionamos el calentamiento global y el cambio climático? Creamos uno, ya que con una misión puede aceptar donaciones y puede recaudar fondos a través de un token”. – Illia Polosukhin
El papel de Blockchain en la gobernanza de la IA
- Blockchain servirá como infraestructura de gobernanza para que la IA evite acciones dañinas.
- “Creo que, al final, la cadena de bloques será efectivamente la infraestructura de gobernanza para la IA porque… quiere hacer algunas cosas malas y luego vuelve a la propia cadena de bloques para afectar la gobernanza”. – Illia Polosukhin
- El futuro de la gobernanza de la IA puede implicar tokens específicos para organizaciones autónomas descentralizadas.
- “Puede crear esto en una especie de subcuadros donde hay un token para un agente de IA autónomo específico; lo llamaremos organización autónoma descentralizada, por ejemplo”. – Illia Polosukhin
- La conversación sobre la IA y la humanidad tiene matices y equilibra la aceleración y la desaceleración.
- “Creo que la conversación real tiene muchos más matices… es fácil caer en este tipo de aceleración versus… desaceleración”. – Illia Polosukhin
- En un mundo post-AGI, habrá un retorno a más interacciones humanas en el mundo real.
- “Creo que en realidad vamos a regresar, de alguna manera, a cosas más humanas del mundo real”. – Illia Polosukhin
La intersección de la IA y los valores humanos
- La creciente automatización y la IA llevarán a la humanidad a mejorarse a sí misma en lugar de disminuir el valor individual.
- “Creo que el otro lado dice: sí, no creo que nosotros, como personas y como fuerzas económicas en la sociedad, avancemos hacia esta realidad en la que la inteligencia superior va y hace lo suyo”. – Illia Polosukhin
- Los deportes, si bien no contribuyen al PIB, brindan satisfacción y entretenimiento individual, resaltando el valor de las experiencias humanas.
- “El deporte por sí solo no crea PIB… es extremadamente gratificante para las personas que participan en él y es entretenido para otras personas verlo”. – Illia Polosukhin
- Deberíamos construir sistemas que sean resistentes a la extralimitación y la vigilancia del gobierno.
- “Deberíamos protegernos contra eso, realmente deberíamos construir sistemas que sean resilientes a ese derecho, es por eso que estamos en el espacio blockchain en primer lugar”. – Illia Polosukhin
- La industria de la inteligencia artificial desdeña la propuesta de valor de las criptomonedas.
- “¿Por qué parece que son casi desdeñosos o irrespetuosos, digamos, con las criptomonedas o que no aprecian parte de la propuesta de valor que ofrecemos?”. – Illia Polosukhin
Cerrando la brecha entre la IA y las criptomonedas
- Sin intervención, la IA se centralizará y caerá en un control autoritario.
- “De lo contrario, se centralizará y caerá en una especie de trampa autoritaria en la que sabes que algún gran partido tiene toda la capacidad de controlar todo esto”. – Illia Polosukhin
- El desafío para los profesionales de la IA al interactuar con las criptomonedas es la dificultad de filtrar el ruido debido a las bajas barreras de entrada al espacio criptográfico.
- “La no existencia de límites para incorporarse a las criptomonedas, lo cual es excelente desde la perspectiva del empoderamiento, también significa que es muy difícil filtrar el ruido para cualquiera que esté mirando”. – Illia Polosukhin
- Cerrar la brecha entre la IA y las criptomonedas llevará tiempo debido a las percepciones negativas y las divisiones culturales dentro de la comunidad de la IA.
- “Tomará algún tiempo corregir la mala reputación”. – Illia Polosukhin
- La intersección de las criptomonedas y la IA es un área prometedora para crear nuevos efectos de red.
- “Creo que sí, pensar que las criptomonedas son la intersección criptográfica de la IA es donde puedes crear efectos de red interesantes, es donde puedes crear nuevas formas de capturar eso”. – Illia Polosukhin
El papel cambiante de las preguntas en la innovación
- La importancia de las cuestiones sobre la ejecución está aumentando en el panorama actual.
- “Creo que estamos en una época en la que las preguntas son más importantes que la ejecución”. – Illia Polosukhin
- El péndulo se está desplazando hacia personas impulsadas por ideas que pueden articular y probar sus suposiciones de manera efectiva.
- “Creo que el péndulo se está desplazando hacia los chicos de ideas, pero no solo hacia los chicos de ideas ingenuos… de hecho, puedes probar todo eso”. – Illia Polosukhin
- Definir criterios de éxito es crucial para utilizar eficazmente las herramientas para escalar la ejecución.
- “En realidad, se trata de definir los criterios de éxito que definen lo que es importante para él, luego puede ejecutar un montón de cosas, probarlas y brindarle información”. – Illia Polosukhin
Divulgación: Este artículo fue editado por el equipo editorial. Para obtener más información sobre cómo creamos y revisamos contenido, consulte nuestra Política editorial.
