Skip to content

Latest commit

 

History

History
134 lines (88 loc) · 8.54 KB

2_prompt_engineering.md

File metadata and controls

134 lines (88 loc) · 8.54 KB

Prompt Engineering

ChatGPT 能为你做什么?

请列出你能做的事情,至少三十项目,并且制作成文字云?
Image 1 Image 2

关于人工智能迅速发展的背景下人类技能需求的转变,李教授提出了两种适应人工智能发展的主要思路:

  • 改变自己来强化模型 :这种方法是通过学习和适应AI工具(如ChatGPT)的使用,来增强自己的能力。这意味着人类需要学会如何有效地利用AI工具,给出清晰的指令,并利用AI提供的额外信息来提高自己的工作效率和创造力。
  • 训练自己的模型:这种方法更进一步,涉及到从开源模型(如LLaMA)开始,通过调整和微调来创建适合特定需求的AI模型。这需要更深入的技术知识和编程能力。

大语言模型使用指南:李宏毅教授的精彩一课

本周课程亮点

🌟 深入浅出的思维链(CoT)讲解

  • CoT作为任务拆解的特殊案例
  • 揭示CoT对新旧模型效果的差异,反映AI进化

🧠 提示词效果的惊喜发现

  • 情感诉求(如"对我的职业很重要")的强大影响
  • 礼貌程度对结果影响不大的意外发现
  • 奖惩机制在提示中的有效性

💡 核心主题:不改变模型参数下的能力增强

  • In-context learning的精彩阐述
  • 从CoT到模型自反思的自然过渡
  • 引入RAG、工具使用、Agent等前沿概念

为什么这节课如此特别?

  1. 故事性强:李教授将复杂概念编织成引人入胜的故事
  2. 逻辑清晰:课程脉络分明,概念之间联系紧密
  3. 洞察深刻:提供了对提示词工程本质的独特见解
  4. 实用性高:学完即可应用于日常与AI的交互中

个人学习感受

这个提示词工程课程内容非常丰富,故事非常精彩。所以我就简单地用飞书文档做了一下笔记。考虑到效率问题,我就不在这个地方做详细笔记了,我说一下我的整体感想吧。

李宏毅老师的课程设计特别好,逻辑脉络非常清晰。尤其是他选择的那些内容,那些关键论文和关键想法,非常具备逻辑性和故事性。 这个是我非常喜欢的。学了之后,我现在来回想一下他整个故事脉络。我感觉难以有条理地说出来,我就说那些我印象深刻的事情吧。

  • 关于思维链(Chain of Thought, CoT),他讲的比其他地方都要好。
    • 指出了它是拆解任务的一个特殊情况。拆解任务又跟那个 Anthropic 公司的宪法AI、具备反思能力的AI建立了 connection。
    • 第2个我觉得特别好的地方是 CoT 对于以前的GPT非常有用,但是对于现在并没有那么有用了,说明模型已经默认要思考和拆解任务了。
  • 关于哪些提示词有用,哪些没有用,他提供了一些非常精彩的案例:
    • 比如那个情感勒索。就是告诉大模型,"this is very important to my career"。这个是非常有用的。
    • 然后你变得很礼貌,是对提升答案质量没有什么用处的。
    • 然后说要给小费,或要惩罚你也是能提升效果的。当时听到就笑死我了。
  • 最后一个就是它的组织结构非常好,这个逻辑。它围绕着一个核心主题,就是不改变模型参数的情况下去增强模型的能力。
    • In-context learning 被李宏毅老师讲出了一个一波三折的故事。
    • 从 CoT 到模型反思的自然逻辑让我觉得非常有趣。
    • 讲到了 RAG,使用工具,Agent 等。

总的来说,关于提示词工程,这课程的这部分内容讲得特别好,既能够讲出一波三折的有趣故事,又能够非常理解这个本质,把这个逻辑脉络梳理清楚。一句话来说,这是一个牛逼的教授为普通人精心准备的提示词工程讲座,非常值得一看。

帮我把这段个人感悟学习感悟校验一下吧, 确保没有明显的语句语法错误,然后要保持我自己的风格。

提示词设计的困惑与顿悟

灵魂拷问: 学习了这么多提示词框架和技巧, 为什么依旧写不出好的提示词? 我个人喜欢的一个解释是,
就像你在做科研,你提出一个好的问题是最关键的。然而在做科研的时候,你想提出好的问题是非常困难的。你觉得呢?

今天,我又一次陷入了对提示词设计的深深困惑。我花了那么多时间学习各种提示词框架和技巧,为什么依然写不出满意的提示词呢? 这个问题一直萦绕在我心头,直到一个意外的比喻让我豁然开朗。

在开始反思之前,我回顾了最近学习的三个主要提示词框架: CRISPE、CO-STAR和LangGPT。CRISPE框架强调能力与角色、洞察力、指令、个性和尝试;CO-STAR聚焦于上下文、目标、风格、语气、受众和回复;而LangGPT则提供了一个从角色定义到工作流程的全面结构, 可以理解成全局思维链:

💡Role (角色) -> Profile(角色简介)—> Profile 下的 skill (角色技能) -> Rules (角色要遵守的规则) -> Workflow ( 满足上述条件的角色的工作流程) -> Initialization (进行正式开始工作的初始化准备) -> 开始实际使用 这些框架各有特点,都旨在帮助我们设计更有效的提示词。

然而,即使有了这些工具,我仍然感到困惑。正当我陷入迷茫时,与AI助手的一次对话让我有了新的认识。我突然意识到提示词设计与提出好的科研问题有着惊人的相似之处。就像一个研究者绞尽脑汁想要提出一个有价值的问题一样,我们在设计提示词时也面临着类似的挑战。这个类比让我开始从一个全新的角度思考这个问题。

  • 首先,好的提示词和好的研究问题都需要深入的背景知识。我们需要了解AI模型的能力边界,就像研究者需要熟悉他们的研究领域一样。其次,两者都需要创造性思维。仅仅套用框架是不够的,我们需要找到独特而有效的表达方式。

更重要的是,我意识到提示词设计是一个不断迭代的过程。就像科研问题常常需要反复修改一样,一个好的提示词往往需要多次尝试和优化。这让我明白了为什么即使学习了那些框架,我仍然感到挑战重重。这些框架提供了有用的指导,但真正的技巧在于如何灵活运用它们。

  • 我还注意到,提示词的效果高度依赖于具体场景,就像研究问题的价值往往取决于特定的研究背景。这意味着没有放之四海而皆准的" 完美公式",我们需要根据每个独特的情况来调整我们的方法。 这种新的认识让我对提示词设计有了更深的理解。它不仅仅是一种技术,更是一门需要时间、耐心和持续努力的艺术。就像在科研中一样,我们需要接受失败,从错误中学习,并保持好奇心和创新精神。 现在,我开始将提示词设计视为一个渐进的学习过程。我决定从简单的任务开始,逐步增加复杂度,同时建立自己的案例库,记录成功和失败的经验。我也计划定期反思和总结,找出自己在提示词设计中的强项和弱项。 这次顿悟让我对提示词设计充满了新的热情。虽然道路依然充满挑战,但我现在明白了这正是其中的魅力所在。就像科研一样,正是这种不断探索和突破的过程,让提示词设计变得如此引人入胜。 我期待着在这个journey中的每一步,相信通过不懈的努力和学习,我终将掌握这门独特的艺术。同时,我也更加欣赏那些提示词框架的价值 - 它们就像科研方法论,为我们提供了思考的起点和框架,但真正的艺术在于如何在实践中灵活运用和超越它们。

作业

学习笔记见 L1: 浦语提示词工程实践.

gradio 托管服务

Goal: 了解 Gradio 的托管服务。

colab + gradio 测试

  • Need to write some codes Google Colab
  • Need some place to host the APP Gradio

Question: 为什么在关闭了 Colab 笔记本后,Gradio 生成的公共 URL 仍然能够运行和访问?

茴香豆 RAG

Goal: 了解 RAG 模型的基本原理。

智能体 Lagent

Goal: 了解 Lagent 智能体的基本原理。