OpenAI首席科学家雅库布·帕乔基9月2日在X平台发布推文，回应AI模型Astra“不可监控、推理不透明”的争议。
报道发布后迅速成为AI圈热议话题，外界担忧该技术落地会让外部监控工具更难摸清模型的结论来源，降低透明度。他强调，OpenAI目前最先进的模型的计算图深度与GPT-4相比差距不到两倍，模型架构并未如外界担忧的那样出现跳跃式的复杂度增长。他同时表示，自最初的推理模型问世以来，OpenAI一直致力于维护和利用思维链监控，并非常重视这项技术，因为它能让团队了解模型对齐如何从训练分布中泛化。OpenAI表示将为Astra部署额外的思维链监控。
本文来自作者[微芯纪事]投稿，不代表绮畅科技网立场，如若转载，请注明出处：https://www.lorte.cn/rgzn/202609/737.html
评论列表（4条）
我是绮畅科技网的签约作者“微芯纪事”！
希望本篇文章《OpenAI首席科学家回应AI推理不透明争议：复杂度未现跃升》能对你有所帮助！
本站[绮畅科技网]内容主要涵盖：教育咨询,知识百科
本文概览：OpenAI首席科学家雅库布·帕乔基9月2日在X平台发布推文，回应AI模型Astra“不可监控、推理不透明”的争议。