Autor: Criptonatividad Golden Finance
El 12 de junio de 2023, Gensyn, el protocolo de mercado de potencia informática AGI basado en blockchain, anunció la finalización de una financiación Serie A de 43 millones de dólares, liderada por a16z, con la participación de Eden Block, CoinFund, Galaxy, Protocol Labs, etc.
¿Qué tipo de proyecto es Gensyn? ¿Por qué se pueden obtener grandes inversiones de los principales capitalistas de riesgo? Golden Finance le ayudará a entenderlo en un artículo.
a16z: Por qué lideró la financiación Serie A de 43 millones de dólares de Gensyn
a16z publicó un artículo que explica por qué lideró la financiación Serie A de 43 millones de dólares de Gensyn. a16z dijo que el progreso reciente de la inteligencia artificial es increíble y tiene el poder de salvar el mundo (consulte el informe anterior de Golden Finance “Artículo de 10.000 palabras del fundador de a16z: Por qué la IA salvará el mundo”). Pero construir sistemas de IA requiere desplegar una mayor potencia informática para entrenar e inferir los modelos más grandes y potentes de la actualidad. Esto significa que las grandes empresas tecnológicas tienen una ventaja sobre las nuevas empresas en la carrera por extraer valor de la inteligencia artificial, gracias al acceso privilegiado a la potencia informática y las economías de escala de los grandes centros de datos. Para competir en igualdad de condiciones, las nuevas empresas deben poder utilizar de forma asequible su propia potencia informática a gran escala.
Blockchain es único como nuevo tipo de computadora en el sentido de que los desarrolladores pueden escribir código con compromisos firmes sobre cómo se comportará el código en el futuro. Este componente sin permiso de blockchain podría crear un mercado para que compradores y vendedores de potencia informática (o cualquier otro tipo de recurso digital como datos o algoritmos) puedan comercializarse globalmente sin intermediarios.
Gensyn es un protocolo de mercado de potencia informática AGI basado en blockchain que conecta a los desarrolladores (cualquiera que pueda entrenar modelos de aprendizaje automático) con solucionadores (cualquiera que quiera entrenar modelos de aprendizaje automático con sus propias máquinas). Gensyn puede aumentar la potencia informática disponible para el aprendizaje automático entre 10 y 100 veces aprovechando dispositivos informáticos inactivos y de cola larga con capacidad de aprendizaje automático en todo el mundo, como pequeños centros de datos, PC personales para juegos, Mac M1 y M2 e incluso teléfonos inteligentes.
Problemas que enfrenta AGI (inteligencia general artificial): alto grado de centralización
Después de casi medio año de desarrollo, el mercado reconoce en general que AGI es el futuro. Sin embargo, la industria AGI actualmente parece estar altamente monopolizada. Los países están inmersos en una guerra comercial y de talentos entre China y Estados Unidos, y las empresas están inmersas en juegos entre grandes empresas tecnológicas (Microsoft, Google, Meta). Porque los tres recursos clave de AGI (potencia informática, conocimiento y datos) están actualmente altamente centralizados.
Potencia informática: Los modelos cada vez más grandes y complejos requieren el uso de procesadores de alta potencia para su entrenamiento. Entre países: en la guerra de chips entre China y Estados Unidos, Estados Unidos ha estado impidiendo activamente que China obtenga chips de alta informática. Entre empresas: capacidad de producción insuficiente, algunos grandes clientes compran los últimos chips de inteligencia artificial de Nvidia y otras empresas no pueden comprarlos en absoluto. En cuanto a la tecnología: algunas empresas incluso han creado su propio hardware dedicado al aprendizaje profundo, como el clúster TPU de Google. Estos funcionan mejor que las GPU estándar para el aprendizaje profundo y no están a la venta, sólo para alquiler.
Conocimiento: muchos avances públicos son el resultado de nuevas arquitecturas de modelos grandes desarrolladas por investigadores, pero existe una batalla sobre la propiedad intelectual y el talento subyacentes. Por ejemplo, Estados Unidos ha atraído a más del 50% de los talentos de IA de China, y las grandes empresas que utilizan estos talentos para desarrollar modelos grandes están reduciendo cada vez más la accesibilidad de esta tecnología. Los GPT-3.5 o 4 de OpenAI pueden usarse nominalmente públicamente; se encuentra detrás de una API y solo Microsoft tiene acceso a su código fuente.
Datos: los modelos de aprendizaje profundo de AGI requieren grandes cantidades de datos, tanto etiquetados como sin etiquetar, y normalmente mejoran a medida que aumenta la cantidad de datos. GPT-3 fue entrenado con 300 mil millones de palabras. Los datos etiquetados son particularmente importantes y los conjuntos de datos necesarios para capacitar a AGI se concentran en manos de algunas grandes empresas. Aquí hay un dato curioso: cada vez que resuelves reCaptcha para visitar un sitio web, estás etiquetando datos de entrenamiento para mejorar Google Maps.
Dificultades en la informática AGI descentralizada
La informática descentralizada podría crear una base más barata y libre para la investigación y el desarrollo de inteligencia artificial. Pero el AGI descentralizado tiene problemas de verificación del trabajo. ¿Cómo sabe que un tercero ha completado el cálculo que usted solicitó?
El problema de la prueba de trabajo tiene dos factores: dependencia del estado y alto gasto computacional.
Dependencia del estado: cada capa de una red neuronal está conectada a todos los nodos de la capa anterior. Esto significa que requiere el estado de la capa anterior. Para empeorar las cosas, todos los pesos de cada capa están determinados por el paso de tiempo anterior. Entonces, si quieres verificar que alguien ha entrenado un modelo (por ejemplo, seleccionando un punto aleatorio en la red y viendo si obtienes el mismo estado), necesitas entrenar el modelo hasta ese punto, lo cual es muy computacional. caro.
Alto gasto computacional: El costo de una sola sesión de entrenamiento de GPT-3 en 2020 fue de aproximadamente $12 millones, más de 270 veces mayor que el costo estimado de entrenar GPT-2 en 2019 de aproximadamente $43,000. En términos generales, la complejidad (tamaño) del modelo de las mejores redes neuronales actualmente se duplica cada tres meses. Si la red neuronal es más barata y/o si el entrenamiento representa menos un proceso de desarrollo de modelo, entonces la sobrecarga de validación que puede provenir de las dependencias estatales es aceptable.
Si desea hacer que la capacitación en aprendizaje profundo sea más asequible y descentralizar el control, necesita un sistema que administre de manera confiable la verificación relacionada con el estado y al mismo tiempo sea económico en términos de gastos generales y recompense a quienes contribuyen al cálculo.
Cómo Gensyn descentraliza la informática AGI
El protocolo Gensyn une toda la informática del mundo en un supercúmulo global de aprendizaje automático que cualquier persona puede utilizar en cualquier momento. Permite el entrenamiento sin confianza de redes neuronales a ultraescala y de bajo costo combinando dos cosas:
1. Sistema de verificación innovador
Un sistema de verificación que resuelve eficazmente el problema de la dependencia del estado en el entrenamiento de redes neuronales de cualquier escala. El sistema combina puntos de control de entrenamiento de modelos con controles probabilísticos que finalizan en cadena. Hace todo esto sin confianza, con gastos generales que aumentan linealmente con el tamaño del modelo (manteniendo constante el costo de verificación).
Según Gensyn Litepaper, Gensyn resuelve principalmente el problema de verificación a través de tres conceptos: prueba de aprendizaje probabilística (utilizando metadatos del proceso de optimización basado en gradientes para crear certificados del trabajo realizado y verificarlo rápidamente mediante replicación en ciertas etapas), Graph protocolo de localización basado en gráficos (que utiliza protocolos de localización basados en gráficos y granularidad múltiple y evaluadores cruzados para ejecutar de manera consistente y permitir que los trabajos de verificación se vuelvan a ejecutar y comparen para lograr coherencia y, en última instancia, sean confirmados por la propia cadena), juegos de incentivos estilo Truebit (usando estacas y cortando construir un juego de incentivos que garantice que cada participante financieramente racional actúe honestamente y realice las tareas previstas)
El sistema consta principalmente de cuatro participantes principales: remitente, solucionador, verificador y silbador. Remitente: el usuario final del sistema, que proporciona las tareas que se calcularán y paga por la unidad de trabajo completada; Solver: la parte de trabajo principal del sistema, que realiza el entrenamiento del modelo y genera pruebas para su verificación por parte del verificador: El proceso de entrenamiento no determinista Se vincula con el cálculo lineal determinista, copiando parte de la prueba del solucionador y comparando distancias con los umbrales esperados. Denunciante: la última línea de defensa, verificando el trabajo del verificador y desafiándolo con la esperanza de ganar el premio mayor.
2. Nueva fuente de alimentación informática
Aprovechar los recursos de los dispositivos informáticos subutilizados y subutilizados/no optimizados. Estos dispositivos van desde GPU para juegos que actualmente no se utilizan hasta plataformas de minería de GPU de la era anterior de Ethereum PoW. Y la descentralización del protocolo significa que, en última instancia, será gobernado por una mayoría de la comunidad y no podrá "cerrarse" sin el consentimiento de la comunidad, a diferencia de su contraparte web2, lo que lo hace resistente a la censura;
Gran escala + bajo costo: el protocolo Gensyn ofrece costos similares a las GPU propiedad del centro de datos y puede escalar más allá de AWS