在 ICONIQ Frontier，OpenAI 应用程序首席技术官 Vijaye Raji 深入了解了 OpenAI 如何在不改变用户实际谈论的模型的情况下构建新的产品层。以广告为例。主模型在不知道广告存在的情况下生成响应。只有在事后，一个单独的法学硕士才会决定谈话是否适合一个人，故意将两种经历隔离开来。
对于 Vijaye 来说，这种架构指向了更广泛的转变。 Vijaye 认为路由正在成为它自己的智能层，较小的模型决定请求应该去哪里、什么上下文重要以及如何保护一路上的敏感信息。Codex 展示了 OpenAI 本身内部实现这一未来的速度。在该公司的 10 名顶级工程师中，代币使用量在六个月内增加了约 400 倍，将计算支出推至 Raji 所说的水平，目前可以超过员工人数约 10 倍。
