#KimiK3 Ces deux derniers jours, tout le monde parle de Chen Guangyu, l’ancien prodige de 17 ans de Kimi, qui a annoncé hier son départ de l’entreprise. Il y a un an, Moonshot AI l’avait recruté au sein de son équipe centrale. Il est co-premier auteur de l’article « Attention Residuals », qui propose une amélioration des connexions résiduelles et a même reçu les éloges publics d’Elon Musk. Cet article constitue également un fondement théorique important du modèle Kimi K3.
Plus étonnant encore, il n’a commencé à s’intéresser au machine learning qu’en 2024. Peu de temps après, il est passé de ses premiers pas avec les Transformers au rang d’auteur d’articles sur des architectures de pointe.
À en juger par son message, son départ de Kimi semble se faire en bons termes, à l’amiable. Il a toutefois dit qu’il était en route pour la Silicon Valley. On ne sait pas s’il part étudier ou créer une entreprise 🤔🤔
Plus étonnant encore, il n’a commencé à s’intéresser au machine learning qu’en 2024. Peu de temps après, il est passé de ses premiers pas avec les Transformers au rang d’auteur d’articles sur des architectures de pointe.
À en juger par son message, son départ de Kimi semble se faire en bons termes, à l’amiable. Il a toutefois dit qu’il était en route pour la Silicon Valley. On ne sait pas s’il part étudier ou créer une entreprise 🤔🤔