如果你给 GPT-3 一个太复杂的任务，在它计算下一个标记所需的时间内无法完成，它可能会做出不正确的猜测。然而，与人类相似，这并不一定意味着模型无法完成任务。有了一些时间和空间来推理，模型仍然可以可靠地回答。将复杂任务拆分为更简单的子任务; 构建指令以保持模型执行任务; 在回答之前提示模型解释; 询问许多可能答案的理由，然后综合; 生成许多输出，然后使用模型选择最好的一个; 微调自定义模型以最大化性能。尽管上述技术的方法各不相同，但它们的目标都是提高复杂任务的可靠性。他们主要通过以下方式做到这一点：将不可靠的操作分解为更小、更可靠的操作（例如，选择推理提示）；使用多个步骤或多个关系使系统的可靠性高于任何单个组件（例如，美化提示）。

大型语言模型是将文本映射到文本的函数。给定一个输入文本字符串，大型语言模型会预测接下来应该出现的文本。在大型语言模型的所有输入中，迄今为止影响最大的是文本提示。

更新后的嵌入模型提供了最先进的性能和 4 倍长的上下文窗口。新型号便宜 90%。较小的嵌入维度降低了将它们存储在矢量数据库中的成本。

您是否厌倦了千篇一律的旧神经网络并渴望新的见解？系好安全带，我们将深入研究 Vaswani 等人在 2017 年发表的革命性论文“Attention is All You Need”。这项开创性的工作改变了自然语言处理 (NLP) 的面貌，并为 OpenAI 的 GPT 系列等最先进的模型铺平了道路。

大型语言模型 (LLM) 和围绕它的软件基础架构能否使计划自动化？在这一部分中，我们测试了我们新的 langchain ……这是一个雄心勃勃的项目，但它揭示了使用大型语言模型时的一些重要新概念。 LLM 不仅有效地成为软件的新构建块，不仅成为与最终用户交互的方式……而且成为内部协调员和利用现有代码功能的新方式，迷人。

Eliezer Yudkowsky最近在Lex Fridman Podcast上谈到了人工智能的威胁，特别是超级智能AGI对人类文明的威胁。