io.net Re-poster
113 Publicaciones
io.net Re-poster
The intelligent stack for powering AI workloads | https://t.co/hIYFLxle8l: decentralized GPUs | io.intelligence: inference & agents | https://t.co/EinR91I0wl
0 Siguiendo
6 Seguidores
2 Me gusta
Publicaciones
Todo
Videos
Ver traducción
AI infrastructure has a concentration problem.
Even neoclouds, built to challenge hyperscaler dominance, are racing to build the same kind of centralized, capital-heavy infra.
Our own @ilkh0m sat down with TechArena to break down the pricing edge neoclouds bring, the tradeoffs, and how http://io.net offers a real alternative.
Even neoclouds, built to challenge hyperscaler dominance, are racing to build the same kind of centralized, capital-heavy infra.
Our own @ilkh0m sat down with TechArena to break down the pricing edge neoclouds bring, the tradeoffs, and how http://io.net offers a real alternative.
$250B hasta $120B.
No porque la demanda se redujera. Porque el riesgo se volvió real.
NVIDIA acaba de recortar su garantía para el centro de datos de OpenAI en Ohio debido a la presión de los accionistas.
Incluso el mayor fabricante de chips está teniendo que recalcular cuánto de la apuesta centralizada puede absorber.
Construir más cómputo no tiene que significar construir algo más grande y más centralizado.
Ya hay capacidad de GPU distribuida por todo el mundo. La oportunidad real es conectarla.
https://blockonomi.com/nvidia-nvda-slashes-openai-data-center-backing-by-more-than-half-amid-investor-concerns/
No porque la demanda se redujera. Porque el riesgo se volvió real.
NVIDIA acaba de recortar su garantía para el centro de datos de OpenAI en Ohio debido a la presión de los accionistas.
Incluso el mayor fabricante de chips está teniendo que recalcular cuánto de la apuesta centralizada puede absorber.
Construir más cómputo no tiene que significar construir algo más grande y más centralizado.
Ya hay capacidad de GPU distribuida por todo el mundo. La oportunidad real es conectarla.
https://blockonomi.com/nvidia-nvda-slashes-openai-data-center-backing-by-more-than-half-amid-investor-concerns/
Las negativas de IA no son neutrales.
Son la tolerancia al riesgo de otra persona integrada en un modelo que estás alquilando.
Modelos cerrados: control parcial y cero visibilidad.
Pesos abiertos: tus reglas y tu infraestructura.
Y, ejecutarlo tú mismo es más barato que la factura de la API.
Los modelos abiertos y el cómputo abierto son la base para una mejor IA.
Son la tolerancia al riesgo de otra persona integrada en un modelo que estás alquilando.
Modelos cerrados: control parcial y cero visibilidad.
Pesos abiertos: tus reglas y tu infraestructura.
Y, ejecutarlo tú mismo es más barato que la factura de la API.
Los modelos abiertos y el cómputo abierto son la base para una mejor IA.
El futuro de la IA no debería depender de dos empresas.
Pero ahora mismo sí.
El 70% de los ingresos de la IA y el 25-35% de los ingresos de la nube para las cuatro empresas tecnológicas más grandes se basan en la misma apuesta por @AnthropicAI y @OpenAI .
Pero a medida que se multiplican los modelos y se acelera la competencia del software de código abierto, esa apuesta se ve cada día más arriesgada.
Lo que el mercado necesita ahora es computación flexible, abierta y distribuida globalmente, no concentrada.
Eso es exactamente lo que está construyendo @ionet.
https://qz.com/steve-eisman-ai-boom-openai-anthropic-warning-081326
Pero ahora mismo sí.
El 70% de los ingresos de la IA y el 25-35% de los ingresos de la nube para las cuatro empresas tecnológicas más grandes se basan en la misma apuesta por @AnthropicAI y @OpenAI .
Pero a medida que se multiplican los modelos y se acelera la competencia del software de código abierto, esa apuesta se ve cada día más arriesgada.
Lo que el mercado necesita ahora es computación flexible, abierta y distribuida globalmente, no concentrada.
Eso es exactamente lo que está construyendo @ionet.
https://qz.com/steve-eisman-ai-boom-openai-anthropic-warning-081326
El futuro de la IA no debería depender de dos empresas.
Pero ahora mismo sí.
El 70% de los ingresos de la IA y el 25-35% de los ingresos por la nube de las cuatro empresas tecnológicas más grandes se sustentan en la misma apuesta por Anthropic y OpenAI.
Pero a medida que los modelos se multiplican y la competencia del código abierto se acelera, esa apuesta se ve cada vez más arriesgada día tras día.
Lo que el mercado necesita ahora es cómputo que sea flexible, abierto y distribuido globalmente, no concentrado.
Eso es exactamente lo que está construyendo @ionet.
https://qz.com/steve-eisman-ai-boom-openai-anthropic-warning-081326
Pero ahora mismo sí.
El 70% de los ingresos de la IA y el 25-35% de los ingresos por la nube de las cuatro empresas tecnológicas más grandes se sustentan en la misma apuesta por Anthropic y OpenAI.
Pero a medida que los modelos se multiplican y la competencia del código abierto se acelera, esa apuesta se ve cada vez más arriesgada día tras día.
Lo que el mercado necesita ahora es cómputo que sea flexible, abierto y distribuido globalmente, no concentrado.
Eso es exactamente lo que está construyendo @ionet.
https://qz.com/steve-eisman-ai-boom-openai-anthropic-warning-081326
300%.
Así es como la demanda de chips de IA está funcionando, en comparación con la oferta que hay ahora mismo.
Los alquileres de H100 son más caros hoy que en el lanzamiento. En 2023.
Más chips por sí solos no son la solución.
Lo que se necesita es una mejor orquestación.
http://io.net está aquí para hacer que suceda.
Así es como la demanda de chips de IA está funcionando, en comparación con la oferta que hay ahora mismo.
Los alquileres de H100 son más caros hoy que en el lanzamiento. En 2023.
Más chips por sí solos no son la solución.
Lo que se necesita es una mejor orquestación.
http://io.net está aquí para hacer que suceda.
Nvidia garantiza la deuda de OpenAI.
OpenAI arrienda a SoftBank.
SoftBank está financiado por la inversión de Nvidia.
Un respaldo de $250B. $350B de financiación de chips. Los mismos tres nombres.
Esto no es una forma de escalar la IA ni de crear más acceso.
Es una economía circular diseñada para mantener el flujo de las ganancias corporativas, no para que construyan los creadores.
@ionet se creó para quienes construyen.
OpenAI arrienda a SoftBank.
SoftBank está financiado por la inversión de Nvidia.
Un respaldo de $250B. $350B de financiación de chips. Los mismos tres nombres.
Esto no es una forma de escalar la IA ni de crear más acceso.
Es una economía circular diseñada para mantener el flujo de las ganancias corporativas, no para que construyan los creadores.
@ionet se creó para quienes construyen.
Tres empresas no deberían poder decidir quién construye IA.
Pero lo han estado haciendo.
No porque tuvieran las mejores GPU. Porque controlaban la única puerta.
Un investigador en Lagos con un modelo brillante y sin relación con AWS simplemente no obtuvo capacidad de cómputo, sin importar su capacidad de pago.
Eso no es una escasez. Es una barrera.
DePIN elimina al guardián.
Miles de operadores independientes, no tres hiperescaladores, compiten para cumplir tu carga de trabajo. El precio lo marca el mercado. El acceso es sin permisos. Una wallet y un script de entrenamiento es todo lo que se necesita.
El oligopolio del cómputo nunca fue inevitable. Solo estaba sin competencia.
https://t.co/ZuybGWvjv9 está cambiando eso.
Pero lo han estado haciendo.
No porque tuvieran las mejores GPU. Porque controlaban la única puerta.
Un investigador en Lagos con un modelo brillante y sin relación con AWS simplemente no obtuvo capacidad de cómputo, sin importar su capacidad de pago.
Eso no es una escasez. Es una barrera.
DePIN elimina al guardián.
Miles de operadores independientes, no tres hiperescaladores, compiten para cumplir tu carga de trabajo. El precio lo marca el mercado. El acceso es sin permisos. Una wallet y un script de entrenamiento es todo lo que se necesita.
El oligopolio del cómputo nunca fue inevitable. Solo estaba sin competencia.
https://t.co/ZuybGWvjv9 está cambiando eso.
64 H100s, 10 días.
@awscloud bajo demanda: $62,918.
@ionet: $22,886.
Mismo fine-tune. Dos etiquetas de precio.
Los hiperescaladores restringen la capacidad mediante acuerdos con empresas y aprobaciones de cupo. @ionet toma GPUs ociosas en más de 130 países y se pone en marcha en minutos.
Esa es la diferencia entre una plataforma pensada para creadores y otra diseñada para las ganancias corporativas.
@awscloud bajo demanda: $62,918.
@ionet: $22,886.
Mismo fine-tune. Dos etiquetas de precio.
Los hiperescaladores restringen la capacidad mediante acuerdos con empresas y aprobaciones de cupo. @ionet toma GPUs ociosas en más de 130 países y se pone en marcha en minutos.
Esa es la diferencia entre una plataforma pensada para creadores y otra diseñada para las ganancias corporativas.
La infraestructura de IA está rota.
Un puñado de empresas la posee. Todos los demás están en la fila.
El IDE cambia la ecuación.
Es más que un nuevo modelo tokenómico. Es la base para una era más justa, abierta y accesible en el cómputo de IA.
Todos, en todas partes, deberían tener acceso a la economía de IA.
@ionet lo hace posible.
Un puñado de empresas la posee. Todos los demás están en la fila.
El IDE cambia la ecuación.
Es más que un nuevo modelo tokenómico. Es la base para una era más justa, abierta y accesible en el cómputo de IA.
Todos, en todas partes, deberían tener acceso a la economía de IA.
@ionet lo hace posible.
$15 mil millones al año.
Eso es lo que @AnthropicAI le está pagando a SpaceX por computación.
Esa cantidad es suficiente para cubrir las necesidades de computación de más de 25,000 startups.
Sin embargo, los altos costos de infraestructura significan que solo el 5-10% de los proyectos de IA lograrán pasar su primer año.
Pero no tiene que ser así.
@ionet hace posible que proyectos de todos los tamaños, en cualquier parte del mundo, obtengan acceso inmediato a computación a hasta un 70% menos que los hyperscalers.
Así que si el presupuesto de tu proyecto es inferior a $15 mil millones al año, podemos ayudar.
Eso es lo que @AnthropicAI le está pagando a SpaceX por computación.
Esa cantidad es suficiente para cubrir las necesidades de computación de más de 25,000 startups.
Sin embargo, los altos costos de infraestructura significan que solo el 5-10% de los proyectos de IA lograrán pasar su primer año.
Pero no tiene que ser así.
@ionet hace posible que proyectos de todos los tamaños, en cualquier parte del mundo, obtengan acceso inmediato a computación a hasta un 70% menos que los hyperscalers.
Así que si el presupuesto de tu proyecto es inferior a $15 mil millones al año, podemos ayudar.
Asequibilidad. Check.
Accesibilidad. Check.
Sí, @ionet te permite activar GPUs en segundos a hasta un 70% menos que los hiperescaladores.
Pero eso es solo parte de la historia.
Cuando te alejas del cómputo centralizado, también aumentas la resiliencia, flexibilidad y seguridad de datos.
En tiempos de inestabilidad global, esto importa más que nunca.
El CEO de @ionet, @Gaurav_ionet, comparte sus pensamientos sobre cómo el cómputo distribuido puede ayudar a garantizar que los sistemas críticos permanezcan en línea, incluso cuando los centros de datos centralizados caen.
Accesibilidad. Check.
Sí, @ionet te permite activar GPUs en segundos a hasta un 70% menos que los hiperescaladores.
Pero eso es solo parte de la historia.
Cuando te alejas del cómputo centralizado, también aumentas la resiliencia, flexibilidad y seguridad de datos.
En tiempos de inestabilidad global, esto importa más que nunca.
El CEO de @ionet, @Gaurav_ionet, comparte sus pensamientos sobre cómo el cómputo distribuido puede ayudar a garantizar que los sistemas críticos permanezcan en línea, incluso cuando los centros de datos centralizados caen.
La mayoría de los equipos de IA no están limitados por sus ideas.
Están limitados por el acceso a la computación.
No importa cuán genial sea la idea, el equipo o la tecnología, si no puedes acceder a las GPU adecuadas a precios asequibles, tu proyecto no puede crecer.
https://t.co/IjHEvTwGWy necesitaba cientos de GPUs para soportar la generación de imágenes en tiempo real a gran escala.
Usar hyperscaler habría significado ser aplastado por los precios tradicionales de la nube y los retrasos en la adquisición.
Pero con https://t.co/ZuybGWvjv9 pudieron:
- Reducir los costos de GPU en más del 50%
- Provisionar más rápido
- Probar nuevo hardware antes
- Seguir escalando sin disminuir la velocidad del producto
¿El resultado? Crecieron de 14K → 19M usuarios en un año.
Están limitados por el acceso a la computación.
No importa cuán genial sea la idea, el equipo o la tecnología, si no puedes acceder a las GPU adecuadas a precios asequibles, tu proyecto no puede crecer.
https://t.co/IjHEvTwGWy necesitaba cientos de GPUs para soportar la generación de imágenes en tiempo real a gran escala.
Usar hyperscaler habría significado ser aplastado por los precios tradicionales de la nube y los retrasos en la adquisición.
Pero con https://t.co/ZuybGWvjv9 pudieron:
- Reducir los costos de GPU en más del 50%
- Provisionar más rápido
- Probar nuevo hardware antes
- Seguir escalando sin disminuir la velocidad del producto
¿El resultado? Crecieron de 14K → 19M usuarios en un año.
Hacer que la IA sea asequible y accesible no es un lujo, es una necesidad.
Un cómputo asequible y accesible le da a los equipos una oportunidad justa para competir, llevar sus productos al mercado y crear negocios sostenibles.
Sin eso, obtenemos algo distópico.
Las empresas ahora están utilizando software de vigilancia para rastrear cada clic que hacen los empleados en sus computadoras para entrenar a la IA para reemplazarlos.
Esto es lo que sucede cuando se anteponen las ganancias a las personas, la competencia y la innovación.
@ionet sabemos de primera mano cuán importante es la IA asequible y accesible, y hemos construido una plataforma para hacerlo posible. 70% más barato que AWS. Sin listas de espera.
Mira a nuestro Jefe de Estrategia de Marca hablar sobre las decisiones detrás del desarrollo de IA en el @Independent de hoy.
Un cómputo asequible y accesible le da a los equipos una oportunidad justa para competir, llevar sus productos al mercado y crear negocios sostenibles.
Sin eso, obtenemos algo distópico.
Las empresas ahora están utilizando software de vigilancia para rastrear cada clic que hacen los empleados en sus computadoras para entrenar a la IA para reemplazarlos.
Esto es lo que sucede cuando se anteponen las ganancias a las personas, la competencia y la innovación.
@ionet sabemos de primera mano cuán importante es la IA asequible y accesible, y hemos construido una plataforma para hacerlo posible. 70% más barato que AWS. Sin listas de espera.
Mira a nuestro Jefe de Estrategia de Marca hablar sobre las decisiones detrás del desarrollo de IA en el @Independent de hoy.
Los clientes hyperscalers han caído en una paranoia de la cadena de suministro.
Y no es sorprendente.
Las empresas de IA están acumulando GPUs o reservando bloques de capacidad como táctica comercial contra la competencia.
Pero las startups y las empresas no necesitan miles de millones en el banco para aprovechar este cómputo inactivo.
Con https://t.co/ZuybGWvRkH evitas la paranoia de la cadena de suministro.
Nuestra red de GPU descentralizada te da acceso inmediato al 95% del cómputo inactivo, a precios hasta un 70% menos que los hyperscalers.
Si quieres construir y lanzar sin miedo, nosotros te cubrimos.
Despliega GPUs hoy, o cuando las necesites:
Y no es sorprendente.
Las empresas de IA están acumulando GPUs o reservando bloques de capacidad como táctica comercial contra la competencia.
Pero las startups y las empresas no necesitan miles de millones en el banco para aprovechar este cómputo inactivo.
Con https://t.co/ZuybGWvRkH evitas la paranoia de la cadena de suministro.
Nuestra red de GPU descentralizada te da acceso inmediato al 95% del cómputo inactivo, a precios hasta un 70% menos que los hyperscalers.
Si quieres construir y lanzar sin miedo, nosotros te cubrimos.
Despliega GPUs hoy, o cuando las necesites:
Las principales empresas tecnológicas están despidiendo hasta el 10% de su fuerza laboral, y culpando a la IA.
Están gastando cientos de miles de millones de dólares en nuevos centros de datos mientras hasta el 85% de las GPUs existentes están subutilizadas debido a una infraestructura ineficiente.
Esto no es un problema de recursos humanos, es lo que la IA representa cuando todo sucede tras puertas cerradas y es controlado por un puñado de empresas.
Es IA para unos pocos, no para muchos.
Creemos en la IA para muchos, no para unos pocos.
@ionet hace que las GPUs subutilizadas de todo el mundo sean accesibles al instante a precios que son un 70% más bajos que los grandes hiperescaladores, para que cualquiera, en cualquier lugar, pueda construir grandes productos y negocios sostenibles.
Están gastando cientos de miles de millones de dólares en nuevos centros de datos mientras hasta el 85% de las GPUs existentes están subutilizadas debido a una infraestructura ineficiente.
Esto no es un problema de recursos humanos, es lo que la IA representa cuando todo sucede tras puertas cerradas y es controlado por un puñado de empresas.
Es IA para unos pocos, no para muchos.
Creemos en la IA para muchos, no para unos pocos.
@ionet hace que las GPUs subutilizadas de todo el mundo sean accesibles al instante a precios que son un 70% más bajos que los grandes hiperescaladores, para que cualquiera, en cualquier lugar, pueda construir grandes productos y negocios sostenibles.
Elegir las GPUs adecuadas para tu proyecto no se trata de escoger la "mejor".
Se trata de elegir la correcta. Para el trabajo correcto. En el momento adecuado.
Cada GPU tiene un ratio de precio/rendimiento diferente. Entender cómo agruparlas para tus cargas de trabajo únicas puede marcar la diferencia entre quemar tu runway y tener los recursos para escalar tu proyecto.
Nuestra nueva hoja de trucos para clústeres de GPU te ayuda a acertar:
• H100 vs A100 vs L40S (cuándo usar cada una)
• Configuraciones de clúster que realmente funcionan
• Comprobaciones de red + NCCL para estar seguros
• Reglas de optimización de costos que ahorran dinero real
Revisa la guía completa:
Se trata de elegir la correcta. Para el trabajo correcto. En el momento adecuado.
Cada GPU tiene un ratio de precio/rendimiento diferente. Entender cómo agruparlas para tus cargas de trabajo únicas puede marcar la diferencia entre quemar tu runway y tener los recursos para escalar tu proyecto.
Nuestra nueva hoja de trucos para clústeres de GPU te ayuda a acertar:
• H100 vs A100 vs L40S (cuándo usar cada una)
• Configuraciones de clúster que realmente funcionan
• Comprobaciones de red + NCCL para estar seguros
• Reglas de optimización de costos que ahorran dinero real
Revisa la guía completa:
Según un estudio reciente, la utilización de GPUs en servidores empresariales está al 5%.
Sí, solo al 5%.
Eso significa que el 95% de la capacidad de GPU provisionada no se está utilizando.
Los hiperescaladores están poniendo a la gente en listas de espera, los costos siguen en aumento, se están gastando miles de millones en nuevos centros de datos y la utilización está en el 5%.
Algo está muy mal aquí. Deberíamos estar aumentando el acceso a la IA, no acaparándola.
Por eso @ionet te brinda la flexibilidad de acceder a cómputo asequible cuando y cómo lo necesites, orquestando GPUs infrautilizadas de todo el mundo.
Sí, solo al 5%.
Eso significa que el 95% de la capacidad de GPU provisionada no se está utilizando.
Los hiperescaladores están poniendo a la gente en listas de espera, los costos siguen en aumento, se están gastando miles de millones en nuevos centros de datos y la utilización está en el 5%.
Algo está muy mal aquí. Deberíamos estar aumentando el acceso a la IA, no acaparándola.
Por eso @ionet te brinda la flexibilidad de acceder a cómputo asequible cuando y cómo lo necesites, orquestando GPUs infrautilizadas de todo el mundo.
Estados Unidos tiene 5,427 centros de datos.
Eso es 10 veces más que cualquier otro país.
Este tipo de centralización y concentración de poder solo beneficia a unos pocos, no a muchos.
Mientras los hiperescaladores continúan comprando el mercado, la mayoría de los desarrolladores y startups de IA del mundo no tienen acceso a las herramientas y recursos que necesitan para siquiera competir.
Esto no está bien. Limita las oportunidades. Limita la innovación. Y, empeora la IA.
Por eso construimos una plataforma que hace que la IA sea accesible para todos, en todas partes.
Descubre más en https://t.co/ZuybGWvjv9
Fuente:
Eso es 10 veces más que cualquier otro país.
Este tipo de centralización y concentración de poder solo beneficia a unos pocos, no a muchos.
Mientras los hiperescaladores continúan comprando el mercado, la mayoría de los desarrolladores y startups de IA del mundo no tienen acceso a las herramientas y recursos que necesitan para siquiera competir.
Esto no está bien. Limita las oportunidades. Limita la innovación. Y, empeora la IA.
Por eso construimos una plataforma que hace que la IA sea accesible para todos, en todas partes.
Descubre más en https://t.co/ZuybGWvjv9
Fuente:
Los hiperescaladores pronto controlarán 2/3 de la capacidad de centros de datos globales.
Esto les permitirá controlar aún más el acceso, establecer términos y precios que excluyan a todos menos a las empresas más grandes, y, en última instancia, decidir quién puede participar en la revolución de la IA.
Excepto cuando no pueden.
Redes abiertas como https://t.co/ZuybGWvjv9 están resistiendo al ofrecer computación asequible y accesible a todos, en todas partes.
Sin acuerdos en la oscuridad. Sin costos ocultos. Sin controlar el acceso. Transparencia. Acceso. Y precios que son un 70% menos.
El futuro de la IA no es para unos pocos, es para muchos.
https://t.co/ZuybGWvjv9 está encendiendo las luces.
Esto les permitirá controlar aún más el acceso, establecer términos y precios que excluyan a todos menos a las empresas más grandes, y, en última instancia, decidir quién puede participar en la revolución de la IA.
Excepto cuando no pueden.
Redes abiertas como https://t.co/ZuybGWvjv9 están resistiendo al ofrecer computación asequible y accesible a todos, en todas partes.
Sin acuerdos en la oscuridad. Sin costos ocultos. Sin controlar el acceso. Transparencia. Acceso. Y precios que son un 70% menos.
El futuro de la IA no es para unos pocos, es para muchos.
https://t.co/ZuybGWvjv9 está encendiendo las luces.
Inicia sesión para explorar más contenidos