当前位置：首页 > article >正文

AI大模型（一）：Prompt AI编程

article 2024/11/17 12:52:30

一、Prompt Engineering，提示工程

提示工程也叫指令工程：

Prompt是发给大模型的指令，比如【讲个睡前故事】、【用Python写个消消乐游戏】等；
本质上大模型相关的工程工作，都是围绕prompt展开的；
提示工程门槛低，天花板高，所以又有人戏称Prompt为咒语；
Prompt相当于是AGI时代的编程语言；
高质量prompt核心：具体、丰富、少歧义；
Prompt是个逐步调优的过程，并不是一下子就好。

OpenAI官方提供的Prompt Engineering教程：

https://platform.openai.com/docs/guides/prompt-engineering

Prompt的典型构成

不要固守模板，模板的价值是提醒我们别漏掉什么，而不是必须遵守模板。

1. 角色：

给AI定义一个最匹配任务的角色；
比如：【你是一个软件产品经理】【你是一位小学语文老师】；
先定义角色，就是在开头把问题域收窄，较少二义性；

2. 指令：

对任务进行描述；

3. 上下文：

给出与任务相关的其它背景信息；

4. 例子：

必要时给出举例，学术中称为one-shot learning, few-shot learning或in-context learning;

5. 输入：

任务的输入信息；再提示词中明确的标识出输入；

6. 输出：

输出的格式描述，以便后续模块自动解析模型的输出结果，比如JSON、XML；

案例：推荐流量包的智能客服

需求：智能客服根据用户的咨询，推荐最合适的流量包。

大模型应用于软件系统的核心思路：

把输入的自然语言对话，转成结构化的信息（自然语言理解NLU）；
用传统软件的手段去处理结构化信息，得到处理策略；
把策略转成自然语言输出（NLG）；

对话流程举例：

用Prompt实现

定义任务描述和输入：

"""
1. 任务描述                  
"""
    instruction = """
                    你的任务是识别用户对手机流量套餐产品的选择条件。
                    每种流量套餐产品包含三个属性：名称、月费价格和月流量。
                    根据用户输入，识别用户在上述三种属性上的需求是什么
                   """


"""
2. 用户输入                 
"""
    input_text = """
                    办理100G的套餐
                   """

# prompt模板，instruction和input_text会被替换为上面的内容
prompt = f"""
{instruction}

用户输入：{input_text}
"""

"""
3. 调用大模型                 
"""
response = get_completion(prompt)
print(response)

约定输出格式：

"""
1. 输出格式                  
"""
    output_format = """
                    以 JSON 格式输出
                   """


"""
2. 稍微调整咒语，加入输出格式                 
"""
prompt = f"""
{instruction}

{output_format}

用户输入：
{input_text}
"""

"""
3. 调用大模型                 
"""
response = get_completion(prompt, response_format="json_object")
print(response)