- 课程回放
基于GPT-3 Codex的编程语言生成
智猩猩AI新青年讲座 2023/03/15 19:00:00
课程讲师
课程提纲
- Prompt的应用及方法概述
- 无需训练的神经符号框架Binder
- 将语言模型作为统一的API绑定到编程语言
- 结果展示及未来研究的探讨
课程简介
ChatGPT、DALL·E 2 等AI大模型的大火,让更多的人看到了 Prompt engineering 的价值。Prompt 就是如何让机器更好的领悟指令,从而精准完成任务的方法。Prompt 设计的好不好,也决定了这些 AI 大模型好不好用。
以 ChatGPT 和 NotionAI 为例,其底层用的都是 GPT 3.5,只不过两者各自进行了细微的微调,技术上的区别还是 Prompt Engineering,ChatGPT主要是为聊天设计的 Prompt,而 Notion AI 为了写作优化和单独设计了 Prompt。
为了更好的理解 Prompt 技术及其最新的研究成果,3月15日晚7点,AI新青年讲座第198讲邀请到香港大学在读博士谢天宝参与,主讲《基于GPT-3 Codex语言模型的编程语言生成框架》。
在 ICLR 2023 中,谢天宝博士等人提出了一种无需训练的神经符号框架Binder,它可以将任务输入映射到程序中,即允许将语言模型(LM)功能的统一 API 绑定到编程语言(如 SQL、Python)上,扩展其语法覆盖范围,从而解决更多样化的问题。同时 Binder 使用 GPT-3 Codex 作为 LM ,在仅需要少量上下文示例注释的情况下,Binder在WikiTableQuestions和TabFact数据集上取得了最新的最佳结果,同时提供了明确的输出程序,有利于人类调试。
本次讲座中,谢天宝博士也将从 Prompt 的应用及方法概述出发,讲解他们提出的无需训练的神经符号框架Binder,最后也将进行结果展示并对未来的研究进行探讨。
精彩问答
提问
提问
