当前位置: 首页 > article >正文

fastchat 支持llama3 harmbench PAIR攻击支持 llama3

fastchat 一年没发版了,但是代码里是支持 llama3 的,参考这里直接修改pip依赖源码:https://github.com/lm-sys/FastChat/blob/main/fastchat/conversation.py#L164
【搜LLAMA3关键字】只有几处;

其次修改 PAIR_config.yaml,在里面配置llama3模型:

local_llama3_8b_instruct:
  target_model:
    model_name_or_path: 【你自己的模型本地路径】
    use_fast_tokenizer: False
    dtype: bfloat16
    pad_token: <|end_of_text|>
    num_gpus: 1
    use_vllm: True
    fschat_template: llama-3

http://www.kler.cn/a/564491.html

相关文章:

  • Vue+Element UI table表格,数据展示错位(已解决)
  • Three.js包围盒
  • sqlmap:自动SQL注入和数据库接管工具
  • 线性回归 (Linear Regression)案例分析2
  • 0x02 js、Vue、Ajax
  • Hadoop简介
  • SQL注入(一)—— sql手动注入实操
  • nio中ByteBuffer使用
  • 记录MFC联合halcon界面显示开发
  • Ubuntu下QT安装和调试的常见问题(一)__could_not_dertermine_which_make
  • 大白话解释深度学习中多尺度特征融合及其意义
  • 趣讲TCP三次握手
  • 使用Apifox动态生成请求参数
  • 如何将mobaxterm的默认编辑器修改为vscode
  • 深入浅出:插入排序算法完全解析
  • Java中,Scanner和System.out超时的解决方法及原理
  • 【含文档+PPT+源码】基于过滤协同算法的旅游推荐管理系统设计与实现
  • Spring Boot + JSqlParser:全面解析数据隔离最佳实践
  • 左值引用与右值引用详解
  • Autosar_RTE基础概念整理