ChatGPT se come a los caníbales
El entusiasmo por ChatGPT está empezando a disminuir: las búsquedas de ChatGPT en Google han bajado un 40 % desde su pico en abril, mientras que el tráfico web al sitio web ChatGPT de OpenAI ha bajado casi un 10 % en el último mes.
Esto era de esperarse, sin embargo, los usuarios de GPT-4 también informan que el modelo parece considerablemente más tonto (pero más rápido) de lo que era anteriormente. Una teoría es que OpenAI lo ha dividido en múltiples modelos más pequeños entrenados en áreas específicas que pueden actuar en conjunto, pero no exactamente al mismo nivel.
Pero también puede haber una posibilidad más intrigante: el canibalismo de la IA.
La web está inundada de textos e imágenes generados por IA, y estos datos sintéticos se utilizan como datos para entrenar a las IA, lo que provoca un bucle de retroalimentación negativo. Cuantos más datos de IA ingiera un modelo, peor será la coherencia y la calidad del resultado. Es un poco como lo que ocurre cuando se hace una fotocopia de una fotocopia y la imagen empeora progresivamente.
Si bien los datos de entrenamiento oficiales de GPT-4 finalizan en septiembre de 2021, claramente sabe mucho más que eso, y OpenAI cerró recientemente su complemento de navegación web.
Un nuevo artículo de científicos de la Universidad Rice y de Stanford ideó un simpático acrónimo para el tema: Trastorno de Autofagia Modelo o MAD por sus siglas en inglés.
“Nuestra principal conclusión en todos los escenarios es que sin suficientes datos reales frescos en cada generación de un bucle autófago, los modelos generativos futuros están condenados a ver disminuir progresivamente su calidad (precisión) o diversidad (recuperación)”, dijeron.
En esencia, los modelos comienzan a perder los datos más únicos pero menos representados y endurecen sus resultados con datos menos variados, en un proceso continuo. La buena noticia es que esto significa que las IA ahora tienen una razón para mantener a los humanos informados si podemos encontrar una manera de identificar y priorizar el contenido humano para los modelos. Ese es uno de los planes del jefe de OpenAI, Sam Altman, con su proyecto de blockchain de escaneo ocular, Worldcoin.
¿Threads es simplemente una opción rentable para entrenar modelos de IA?
El clon de Twitter Threads es una maniobra un tanto extraña por parte de Mark Zuckerberg, ya que canibaliza a los usuarios de Instagram. La plataforma para compartir fotografías genera hasta 50 mil millones de dólares al año, pero podría ganar alrededor de una décima parte de esa cifra gracias a Threads, incluso en el escenario poco realista de que le arrebate el 100% del mercado a Twitter. Alex Valaitis de Big Brain Dailys predice que se cerrará o se reincorporará a Instagram en un plazo de 12 meses, y sostiene que la verdadera razón por la que se lanzó ahora fue para tener más contenido basado en texto para entrenar los modelos de IA de Metas.
ChatGPT se entrenó con enormes volúmenes de datos de Twitter, pero Elon Musk ha tomado varias medidas impopulares para evitar que eso suceda en el futuro (cobrar por el acceso a la API, limitar la velocidad, etc.).
Zuck tiene experiencia en este sentido, ya que el software de inteligencia artificial de reconocimiento de imágenes SEER de Metas fue entrenado con mil millones de fotos publicadas en Instagram. Los usuarios aceptaron eso en la política de privacidad, y más de uno ha notado que la aplicación Threads recopila datos sobre todo lo posible, desde datos de salud hasta creencias religiosas y raza. Esos datos se utilizarán inevitablemente para entrenar modelos de inteligencia artificial como LLaMA (Large Language Model Meta AI) de Facebook. Musk, por su parte, acaba de lanzar un competidor de OpenAI llamado xAI que extraerá datos de Twitter para su propio LLM.
¿Quién habría imaginado que entrenar a las IA con textos religiosos y hacerlas hablar con la voz de Dios resultaría una idea terrible? En la India, los chatbots hindúes que se hacen pasar por Krishna han estado advirtiendo constantemente a los usuarios que matar personas está bien si es su dharma o su deber.
En los últimos meses han aparecido al menos cinco chatbots entrenados en el Bhagavad Gita, una escritura de 700 versos, pero el gobierno indio no tiene planes de regular la tecnología, a pesar de las preocupaciones éticas.
“Es un error de comunicación, una desinformación basada en un texto religioso”, dijo la abogada Lubna Yusuf, que vive en Mumbai y es coautora del libro AI. Un texto le da mucho valor filosófico a lo que intenta decir, y ¿qué hace un bot? Te da una respuesta literal y ese es el peligro aquí”.
Lea también Características
Lushsux: Una década de palizas y travesuras en un solo NFT
Características El plan descabellado de Corea del Sur para dominar el metaverso Los agoreros de la IA contra los optimistas de la IA
El principal catastrofista de la IA, el teórico de la decisión Eliezer Yudkowsky, ha dado una charla TED en la que advierte de que la IA superinteligente nos matará a todos. No está seguro de cómo ni por qué, porque cree que una IA superinteligente será mucho más inteligente que nosotros y ni siquiera entenderemos cómo y por qué nos está matando, como un campesino medieval que intenta entender el funcionamiento de un aire acondicionado. Podría matarnos como efecto secundario de perseguir algún otro objetivo, o porque no quiere que fabriquemos otras superinteligencias para competir con ella.
Señala que nadie entiende cómo los sistemas de inteligencia artificial modernos hacen lo que hacen. Son matrices gigantes inescrutables de números de punto flotante. No espera “ejércitos de robots marchando con ojos rojos brillantes, pero cree que una entidad más inteligente e indiferente descubrirá estrategias y tecnologías que puedan matarnos de manera rápida y confiable y luego matarnos”. Lo único que podría evitar que ocurra este escenario es una moratoria mundial sobre la tecnología respaldada por la amenaza de una Tercera Guerra Mundial, pero no cree que eso suceda.
En su ensayo “Por qué la IA salvará al mundo”, Marc Andreessen de A16zs sostiene que este tipo de postura no es científica: ¿Cuál es la hipótesis comprobable? ¿Qué podría refutar la hipótesis? ¿Cómo sabemos cuándo nos estamos adentrando en una zona de peligro? Estas preguntas quedan en su mayoría sin respuesta, salvo que no se puede demostrar que no sucederá.
Bill Gates, el jefe de Microsoft, publicó un ensayo propio titulado Los riesgos de la IA son reales pero manejables, en el que sostiene que, desde los automóviles hasta Internet, “las personas han logrado superar otros momentos de transformación y, a pesar de muchas turbulencias, han salido mejor paradas al final”.
“Es la innovación más transformadora que cualquiera de nosotros verá en su vida, y un debate público saludable dependerá de que todos conozcan la tecnología, sus beneficios y sus riesgos. Los beneficios serán enormes, y la mejor razón para creer que podemos controlar los riesgos es que ya lo hemos hecho antes”.
El científico de datos Jeremy Howard ha publicado su propio artículo, en el que sostiene que cualquier intento de prohibir la tecnología o mantenerla confinada a unos pocos grandes modelos de IA será un desastre, comparando la respuesta a la IA basada en el miedo con la era anterior a la Ilustración, cuando la humanidad intentó restringir la educación y el poder a la élite.
Lea también Características ¿Deberían darles la píldora naranja a sus hijos? El caso de los libros infantiles sobre Bitcoin Características Los peligros legales de involucrarse con las DAO
“Entonces surgió una nueva idea: ¿qué pasaría si confiáramos en el bien común de la sociedad? ¿Qué pasaría si todos tuviéramos acceso a la educación? ¿Al voto? ¿A la tecnología? Esta fue la Era de las Luces”.
Su contrapropuesta es fomentar el desarrollo de IA de código abierto y tener fe en que la mayoría de la gente aprovechará la tecnología para el bien.
“La mayoría de las personas utilizarán estos modelos para crear y protegerse. ¿Qué mejor manera de estar seguros que contar con la enorme diversidad y experiencia de la sociedad humana en general haciendo todo lo posible para identificar y responder a las amenazas, con todo el poder de la IA a su favor?”
Intérprete de código OpenAIs
El nuevo intérprete de código de GPT-4 es una nueva actualización fantástica que permite a la IA generar código a pedido y ejecutarlo. De modo que cualquier cosa que pueda soñar, puede generar el código y ejecutarlo. Los usuarios han estado ideando varios casos de uso, incluida la carga de informes de la empresa y lograr que la IA genere gráficos útiles de los datos clave, la conversión de archivos de un formato a otro, la creación de efectos de video y la transformación de imágenes fijas en video. Un usuario cargó un archivo de Excel de cada ubicación de faros en los EE. UU. y logró que GPT-4 creara un mapa animado de las ubicaciones.
Todas las noticias sobre IA son asesinas y no hay relleno
Un estudio de la Universidad de Montana concluyó que la inteligencia artificial se ubica en el 1 % más alto en una prueba estandarizada de creatividad. El Servicio de Evaluación Scholastic otorgó a los participantes del GPT-4 las mejores calificaciones en creatividad, fluidez (la capacidad de generar muchas ideas) y originalidad.
La comediante Sarah Silverman y los autores Christopher Golden y Richard Kadreya están demandando a OpenAI y Meta por violaciones de derechos de autor, por entrenar sus respectivos modelos de IA en los libros del trío.
El AI Copilot de Microsoft para Windows eventualmente será sorprendente, pero Windows Central descubrió que la vista previa interna en realidad es solo Bing Chat ejecutándose a través del navegador Edge y que casi puede activar el Bluetooth.
El competidor de Anthropics ChatGPT, Claude 2, ya está disponible de forma gratuita en el Reino Unido y los EE. UU., y su ventana de contexto puede manejar entre 75 000 palabras de contenido y el máximo de 3000 palabras de ChatGPT. Eso lo hace fantástico para resumir textos largos y no es malo para escribir ficción.
Vídeo de la semana
El canal de noticias satelital indio OTV News ha presentado a su presentadora de noticias con inteligencia artificial, llamada Lisa, que presentará las noticias varias veces al día en una variedad de idiomas, incluidos inglés y oriya, para la cadena y sus plataformas digitales. "Las nuevas presentadoras con inteligencia artificial son composiciones digitales creadas a partir de las imágenes de un presentador humano que lee las noticias utilizando voces sintetizadas", dijo el director ejecutivo de OTV, Jagi Mangat Panda.
Suscríbete Las lecturas más interesantes sobre blockchain. Entregadas una vez por semana.
Dirección de correo electrónico
SUSCRIBIR