PyTorch 数据处理与加载
在 PyTorch 中，处理和加载数据是深度学习训练过程中的关键步骤。 为了高效地处理数据，PyTorch 提供了强大的工具，包括 torch.utils.data.Dataset 和 torch.utils.data.DataLoader，帮助我们管理数据集、批量加载…
PyTorch 第一个神经网络
本章节我们将介绍如何用 PyTorch 实现一个简单的前馈神经网络，完成一个二分类任务。 以下实例展示了如何使用 PyTorch 实现一个简单的神经网络进行二分类任务训练。 网络结构包括输入层、隐藏层和输出层，使用了 Re…
PyTorch 神经网络基础
神经网络是一种模仿人脑处理信息方式的计算模型，它由许多相互连接的节点（神经元）组成，这些节点按层次排列。 神经网络的强大之处在于其能够自动从大量数据中学习复杂的模式和特征，无需人工设计特征提取器。 随…
PyTorch 张量（Tensor）
张量是一个多维数组，可以是标量、向量、矩阵或更高维度的数据结构。 在 PyTorch 中，张量（Tensor）是数据的核心表示形式，类似于 NumPy 的多维数组，但具有更强大的功能，例如支持 GPU 加速和自动梯度计算。 张量…
PyTorch 基础
PyTorch 是一个开源的深度学习框架，以其灵活性和动态计算图而广受欢迎。 PyTorch 主要有以下几个基础概念：张量（Tensor）、自动求导（Autograd）、神经网络模块（nn.Module）、优化器（optim）等。 张量（Tensor…
国内用户安装和使用codex
第一步：安装 Codex 命令行工具 首先确保你的电脑有 Node.js 环境 (版本 >= 22) ，然后在终端里安装： bash # 使用国内镜像源安装，速度更快 npm install -g @openai/codex --registry=https://registry…
skill具体调用
场景：用户说"帮我发一封邮件" #### 用户输入（自然语言） "帮我给 test@example.com 发一封邮件，主题是'会议提醒'，内容是明天下午3点开会" #### 智能体 自动发现 Skill（无需用户指定） 系统会自动扫描所有 skil…
一个go 的skill 案例
目录 skills/ ├--- send-email/ ├------ SKILL.md ├------ references/ └----- scripts/ SKILL.md --- name: send-email-go description: Send emails via pre-built `send-email` binary. JSON config + en…
vLLM 加载和部署 LoRA 微调后的模型
vLLM 完全支持加载和部署 LoRA 微调后的模型，并且能带来显著的性能提升。 两种部署方式 方式一：直接加载 LoRA 适配器（推荐） vLLM 原生支持动态加载 LoRA 适配器，无需合并模型，启动时指定即可： bash #…
使用微调后的大模型
使用微调后的大模型 from fastapi import FastAPI, HTTPException, Depends from pydantic import BaseModel from fastapi.responses import StreamingResponse, JSONResponse import torch from transformers …
使用LoRA进行大模型数据微调三
大模型微调的数据格式，核心可以归结为两种主流范式：一种是基于“对话结构”的 ShareGPT格式，另一种是基于“指令-回答”结构的 Alpaca格式。 下面这两张表可以帮你快速了解它们的核心区别和结构： 特性 Share…
使用LoRA进行大模型数据微调二
gpu版 import os import torch from datasets import load_dataset from transformers import ( AutoModelForCausalLM, AutoTokenizer, TrainingArguments, Trainer, DataCollatorFor…
陕ICP备10001693号
Copyright © 要快网