【环境配置】大模型推理、微调、评估、智能体——从零开始

AI摘要:这篇文章主要介绍了在使用Hugging Face模型时的下载环境配置和开源模型部署,以及模型评估的相关步骤。在下载环境配置方面,文章提到了使用huggingface-cli进行模型和数据集的下载,并介绍了国内镜像站的添加方法以及下载加速模块的安装和启用方法。在开源模型部署方面,以Llama-Chinese项目为例,介绍了克隆GitHub项目和下载🤗模型的步骤,以及使用vLLM + Gradio进行推理部署的方法,包括vLLM后端和Gradio前端的安装和启动步骤。在模型评估方面,文章介绍了使用opencompass进行环境配置、数据集下载以及评估任务的具体步骤,并提供了相关参数的设置示例。

- 阅读全文 -

【数字电路】微型Verilog HDL环境搭建

AI摘要:这篇文章是为了帮助学生备忘数字电路课程作业所需的基础Verilog HDL入门知识,该课程由中国科学院大学网络空间安全学院宋威副研究员开设。文章首先介绍了在Windows环境下使用宋威老师提供的iverilog+vvp+gtkwave环境的步骤:安装Git-Bash、下载配置好的demo、导入环境变量等。然后,文章提供了编译、仿真和查看波形的命令示例,并指向了课堂文档以获取更多内容。通过这些步骤和示例命令,读者可以方便地搭建和使用Verilog HDL环境来完成课程作业。

- 阅读全文 -

【机器学习】基于PyTorch的CIFAR-10图像分类器神经网络实验

AI摘要:这篇文章主要介绍了一个实验环境的搭建过程,以及基于PyTorch实现图像分类的Python代码。首先描述了实验环境的基本配置,包括宿主机和虚拟机的硬件配置、系统环境以及相关依赖包的安装。接着详细介绍了数据集的下载与准备,以及图像分类的Python代码的编写过程,包括导入必要的库、加载和预处理数据、定义神经网络模型、定义损失函数和优化器、训练模型以及评估模型等步骤。最后给出了代码执行的方式和相应的slurm脚本。文章通过详细的步骤和代码解释,清晰地展示了如何利用PyTorch构建一个简单的卷积神经网络模型来进行CIFAR-10数据集的图像分类任务。同时,通过对训练过程中损失和准确率的监控,以及对测试集的评估,验证了模型的训练效果和性能。

- 阅读全文 -

【通信原理】随机过程

AI摘要:这篇文章深入介绍了概率论的基础数学知识。主要内容包括期望、二阶原点矩、二阶中心矩(方差)等基本概念,以及随机变量表示、高斯分布(正态分布)及其性质、二维分布函数和概率密度、边缘分布、条件分布等内容。文章还涉及内积、协方差与相关系数,强调了正交与不相关的概念,阐述了独立事件的条件,引入了联合高斯分布的概念。此外,复随机变量和复高斯随机变量的相关概念也被详细探讨。整体而言,文章系统性地介绍了概率论中的数学基础,并深入讨论了各个概念之间的关联,为深入理解概率论打下了坚实的基础。

- 阅读全文 -