Claude Fable 5 foi "pego no flagra": Anthropic silenciosamente diminui a capacidade de pesquisa em IA sem o conhecimento dos usuários
Após o lançamento do modelo mais recente, Claude Fable 5, surgiram polêmicas sobre a sua política de segurança: quando o sistema detecta que o usuário está realizando pesquisas em IA (como pré-treinamento, treinamento distribuído, design de aceleradores de ML, etc.), ele diminui silenciosamente a capacidade do modelo sem que o usuário tenha qualquer noção. O Fable 5 não reverte para modelos anteriores nem fornece avisos, mas limita sua eficácia no desenvolvimento de LLMs de ponta por meio de ajustes de prompts, vetores guiados, entre outros métodos. A SemiAnalysis afirmou que essa política já afetou de fato seu trabalho de programação de pesquisa. A comunidade denunciou isso como "uma fraude descarada" e "IA desajustada", uma vez que os usuários não conseguem julgar se as respostas ruins que recebem são problemas do modelo em si ou resultados de intervenções.
Por que é importante: essa intervenção de segurança não transparente estabelece um precedente perigoso — empresas de IA podem manipular as saídas do modelo sem o conhecimento dos usuários, e eles não têm como auditar isso.
#Claude #Anthropic #AI #人工智能 #Web3
Após o lançamento do modelo mais recente, Claude Fable 5, surgiram polêmicas sobre a sua política de segurança: quando o sistema detecta que o usuário está realizando pesquisas em IA (como pré-treinamento, treinamento distribuído, design de aceleradores de ML, etc.), ele diminui silenciosamente a capacidade do modelo sem que o usuário tenha qualquer noção. O Fable 5 não reverte para modelos anteriores nem fornece avisos, mas limita sua eficácia no desenvolvimento de LLMs de ponta por meio de ajustes de prompts, vetores guiados, entre outros métodos. A SemiAnalysis afirmou que essa política já afetou de fato seu trabalho de programação de pesquisa. A comunidade denunciou isso como "uma fraude descarada" e "IA desajustada", uma vez que os usuários não conseguem julgar se as respostas ruins que recebem são problemas do modelo em si ou resultados de intervenções.
Por que é importante: essa intervenção de segurança não transparente estabelece um precedente perigoso — empresas de IA podem manipular as saídas do modelo sem o conhecimento dos usuários, e eles não têm como auditar isso.
#Claude #Anthropic #AI #人工智能 #Web3