【环境配置】大模型推理、微调、评估、智能体——从零开始

AI摘要:这篇文章主要介绍了在使用Hugging Face模型时的下载环境配置和开源模型部署,以及模型评估的相关步骤。在下载环境配置方面,文章提到了使用huggingface-cli进行模型和数据集的下载,并介绍了国内镜像站的添加方法以及下载加速模块的安装和启用方法。在开源模型部署方面,以Llama-Chinese项目为例,介绍了克隆GitHub项目和下载🤗模型的步骤,以及使用vLLM + Gradio进行推理部署的方法,包括vLLM后端和Gradio前端的安装和启动步骤。在模型评估方面,文章介绍了使用opencompass进行环境配置、数据集下载以及评估任务的具体步骤,并提供了相关参数的设置示例。

- 阅读全文 -

【网络环境】温州联通光猫烽火HG6142A等改桥接

AI摘要:该文介绍了烽火HG6142A光猫的相关信息,包括型号、硬件版本和软件版本。接着详细描述了如何开启telnet功能以及获取管理员密码的步骤,通过用户账户登录后台获取MAC值,并在浏览器中访问特定链接开启telnet,然后使用telnet连接光猫获取管理员密码,最后通过特定链接登录。文中还提及了如何进行桥接设置,并提供了相关参考资料链接。

- 阅读全文 -

【网络环境】温州移动光猫吉比特H2-3改桥接

AI摘要:本文提供了关于光猫(型号为吉比特H2-3)的相关信息,包括硬件版本、软件版本和制造信息。首先介绍了如何通过telnet开启光猫的步骤,以及修改超级管理员密码为默认值的方法。在修改密码的过程中,通过telnet连接光猫并备份需要修改的文件,然后修改密码相关的配置参数,并重启以应用更改。此外,文中还提及了如何进行桥接设置,并提供了相关参考资料链接。

- 阅读全文 -