绑定手机号
获取验证码
确认绑定
提问
0/255
提问
订阅开课提醒需关注服务号
回答成功
知道了
扫码关注智猩猩服务号登录
请使用微信扫描二维码
扫描二维码分享给微信好友
您已订阅成功,有新课程,我们将第一时间提醒您。
知道了
发送提问成功
回答可在
“我的——我的提问”中查看
知道了
失败
欢迎来智东西
关注我们
智东西
车东西
芯东西
智猩猩
基于GPT-3 Codex的编程语言生成
智猩猩AI新青年讲座 2023/03/15 19:00:00
课程讲师
谢天宝 香港大学 在读博士

由余涛教授(主要)和孔令鹏教授指导,获得港府奖学金资助,主要研究方向为结构化知识建模,代码生成和自然语言界面,目前侧重于大型语言模型相关的研究,多篇论文发表于EMNLP、ICLR等会议

谢天宝
香港大学 在读博士

由余涛教授(主要)和孔令鹏教授指导,获得港府奖学金资助,主要研究方向为结构化知识建模,代码生成和自然语言界面,目前侧重于大型语言模型相关的研究,多篇论文发表于EMNLP、ICLR等会议

课程提纲
  • Prompt的应用及方法概述
  • 无需训练的神经符号框架Binder
  • 将语言模型作为统一的API绑定到编程语言
  • 结果展示及未来研究的探讨
课程简介

ChatGPT、DALL·E 2 等AI大模型的大火,让更多的人看到了 Prompt engineering 的价值。Prompt 就是如何让机器更好的领悟指令,从而精准完成任务的方法。Prompt 设计的好不好,也决定了这些 AI 大模型好不好用。

以 ChatGPT 和 NotionAI 为例,其底层用的都是 GPT 3.5,只不过两者各自进行了细微的微调,技术上的区别还是 Prompt Engineering,ChatGPT主要是为聊天设计的 Prompt,而 Notion AI 为了写作优化和单独设计了 Prompt。

为了更好的理解 Prompt 技术及其最新的研究成果,3月15日晚7点,AI新青年讲座第198讲邀请到香港大学在读博士谢天宝参与,主讲《基于GPT-3 Codex语言模型的编程语言生成框架》。

在 ICLR 2023 中,谢天宝博士等人提出了一种无需训练的神经符号框架Binder,它可以将任务输入映射到程序中,即允许将语言模型(LM)功能的统一 API 绑定到编程语言(如 SQL、Python)上,扩展其语法覆盖范围,从而解决更多样化的问题。同时 Binder 使用 GPT-3 Codex 作为 LM ,在仅需要少量上下文示例注释的情况下,Binder在WikiTableQuestions和TabFact数据集上取得了最新的最佳结果,同时提供了明确的输出程序,有利于人类调试。

本次讲座中,谢天宝博士也将从 Prompt 的应用及方法概述出发,讲解他们提出的无需训练的神经符号框架Binder,最后也将进行结果展示并对未来的研究进行探讨。

精彩问答
提问
提问
目前还没有问题,可以点击右侧的“提问按钮”提问
更多问题...