#KimiK3 Эти два дня все обсуждают 17-летнего вундеркинда Чэнь Гуанъюя, который раньше работал в Kimi. Вчера он официально объявил об уходе из компании. Год назад Moonshot AI пригласила его в основную команду, и он стал соавтором статьи Attention Residuals. В ней предложен способ улучшить остаточные связи; статья также получила публичную похвалу Илона Маска. Она стала одной из важных теоретических основ модели Kimi K3.

Ещё удивительнее то, что машинным обучением он начал заниматься только в 2024 году. И всего за короткое время прошёл путь от знакомства с Transformer до публикации статьи о передовой архитектуре.

Судя по его посту, уход из Kimi, похоже, прошёл спокойно и без конфликтов. Сам он написал, что отправляется в Кремниевую долину. Интересно, собирается он там учиться или запускать стартап 🤔🤔