Meta Platforms 周五发布了一系列新的 AI 产品，其中包括一款能够检查其他 AI 模型准确性的“自学评估器”。因此，据报道，该模型能够减少 AI 模型开发过程中的人工参与。
Facebook 和 Instagram 的母公司周五表示，它正在发布新的 AI 模型，此前它在 8 月份的一篇论文中介绍了该工具，详细解释了它如何依赖于同行使用的相同“思路链”技术，ChatGPT 制造商 OpenAI 最近发布了 01 模型。
这有望使人工智能模型对模型的反应做出可靠的判断。
Meta 希望解决不准确的挑战
据路透社的一篇文章报道，该模型可以检查并提高对诸如科学、数学和编码等学科的难题的解答的准确性，因为它需要将复杂的问题分解为更小的逻辑步骤。
Meta 透露，其目标包括解决 ChatGPT 等其他人工智能模型所面临的挑战以及对过时和不准确答案的批评。
据报道，Meta 的研究人员完全使用人工智能生成的数据来训练评估模型，从而消除了该阶段的人工输入。
两位 Meta 研究人员告诉路透社，利用人工智能可靠地评估其他人工智能的能力，为我们提供了一条通往构建能够从自己的错误中学习的自主人工智能的可能途径。
“我们希望，随着人工智能变得越来越超越人类，它会越来越善于检查自己的工作，这样它实际上就会比普通人类更优秀。”研究员 Jason Weston 说。
他补充道：“自学和自我评估对于实现超越人类水平的人工智能来说至关重要。”
Meta 正在向自主 AI 迈进
据研究人员称，人工智能行业的利益相关者将这些代理视为数字助理，它们足够智能，可以在无需人工干预的情况下执行各种任务。
研究人员认为，自我改进的模型可以消除目前使用的一种昂贵且低效的过程，即所谓的“从人类反馈中强化学习”。这需要人类注释者的输入，他们必须具备专业知识才能准确标记数据并验证复杂数学和写作查询的答案是否正确。
谷歌和 Anthropic 等业界同行也发表了关于 RLAIF（基于 AI 反馈的强化学习）概念的研究论文。
然而，与 Meta 不同的是，这些其他公司往往不会将其模型发布供公众使用。
人工智能行业的专家认为，使用人工智能来检查人工智能对于构建无需人工干预即可运行的自主人工智能应用程序具有重要意义。这意味着人工智能模型最终将从自己的错误中学习、自我纠正和改进，而无需任何人类输入。
这家社交媒体巨头还发布了其他工具，包括其图像识别分割任何模型 (SAM) 的更新，该模型可加快 LLM 响应生成时间，以及可用于帮助发现新无机材料的数据集。
