北京
分享至
OpenAI的Astra模型最近引发了一个新话题：它用了一种叫recurrent depth（循环深度）的推理方法，也被称为looped transformer。简单说，就是让同一个模型层多次处理文本，而不是像传统模型那样一层层往下走。
据The Information报道，这种设计能提升编码和计算机操作性能，还可能让小模型表现接近大模型，同时降低内存与带宽成本。听起来是笔划算的买卖。
代价是什么？
问题出在可解释性上。recurrent depth会遮蔽部分或全部思维链，意味着人类很难读懂模型的推理步骤。对需要审计AI决策的场景来说，这可不是小事。
性能提升和透明度之间的取舍，成了Astra绕不开的争议点。你怎么看？
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
