📰 El fundador de Anthropic, Dario, publicó un texto el 12 de septiembre en el que pide que la IA de vanguardia reduzca la velocidad de mejora de sus capacidades. El motivo es que la investigación en seguridad, la interpretabilidad y los mecanismos regulatorios ya no están a la altura. Por si fuera poco, del otro lado, la empresa está preparando, justo esa contraposición avivó la polémica.
🔥 El modelo de personaje de *The Big Short*, Michael Burry, cuestionó públicamente esta idea de que “una IA lo bastante potente podría ser peligrosa”, y también podría estar sirviendo para agregar ‘empaque’ al IPO. Si la industria se pusiera de acuerdo para desacelerar, lo más cómodo sería para compañías como OpenAI o Anthropic, que ya van a la cabeza.
👀 Luego, el bloguero investigador Kevin Bass siguió las pistas a partir de inversiones públicas y donaciones, y descubrió que entre los primeros inversores de Anthropic, las organizaciones de seguridad de la IA, las agencias de evaluación de terceros y los proyectos mediáticos existe un cruce de fondos. También cuestionó si la entidad de evaluación METR, recomendada por Dario, es suficientemente independiente. METR respondió que no ha aceptado financiación directa de empresas de IA, pero que utilizará los numerosos tokens gratuitos que proporcionan esas compañías.
💡 La verdad: debatir la seguridad de la IA está bien, pero lo que incomoda es esto: mientras se pide a toda la industria que pise el freno, no se detiene la financiación, la expansión ni el impulso hacia el IPO. También se informó que Nvidia está discutiendo invertir, y que en el financiamiento de mayo de este año, la valoración de Anthropic fue de 9650 millones de dólares.
🤔 Si una empresa líder de IA participa en la definición de riesgos, a la vez recomienda evaluadores y, además, se lanza hacia un IPO de escala enorme, ¿creerías que está advirtiendo peligro o que está elevando sus propias cartas?
#Anthropic #人工智能 #AI安全 #TecnologíaFinanciación
🔥 El modelo de personaje de *The Big Short*, Michael Burry, cuestionó públicamente esta idea de que “una IA lo bastante potente podría ser peligrosa”, y también podría estar sirviendo para agregar ‘empaque’ al IPO. Si la industria se pusiera de acuerdo para desacelerar, lo más cómodo sería para compañías como OpenAI o Anthropic, que ya van a la cabeza.
👀 Luego, el bloguero investigador Kevin Bass siguió las pistas a partir de inversiones públicas y donaciones, y descubrió que entre los primeros inversores de Anthropic, las organizaciones de seguridad de la IA, las agencias de evaluación de terceros y los proyectos mediáticos existe un cruce de fondos. También cuestionó si la entidad de evaluación METR, recomendada por Dario, es suficientemente independiente. METR respondió que no ha aceptado financiación directa de empresas de IA, pero que utilizará los numerosos tokens gratuitos que proporcionan esas compañías.
💡 La verdad: debatir la seguridad de la IA está bien, pero lo que incomoda es esto: mientras se pide a toda la industria que pise el freno, no se detiene la financiación, la expansión ni el impulso hacia el IPO. También se informó que Nvidia está discutiendo invertir, y que en el financiamiento de mayo de este año, la valoración de Anthropic fue de 9650 millones de dólares.
🤔 Si una empresa líder de IA participa en la definición de riesgos, a la vez recomienda evaluadores y, además, se lanza hacia un IPO de escala enorme, ¿creerías que está advirtiendo peligro o que está elevando sus propias cartas?
#Anthropic #人工智能 #AI安全 #TecnologíaFinanciación
