微信扫一扫personjakexiao无需 Key
esrgan_super_resolution
文档照片的超分辨率处理，以在照片分辨率较低时提高面部匹配的质量
download10deployed_code—star0
Skill 资源库
AI Skill 资源库
把 Skill 的源码、资源快照、README、包体和安装信号放进一个可搜索、可筛选的公开目录。
personjakexiao无需 Key
insightface_arcface
使用ArcFace R100进行的最先进面部识别，以比较自拍照与证件照
download10deployed_code—star0
personjakexiao无需 Key
nemo-curator
GPU加速的数据整理，用于LLM训练。支持文本/图像/视频/音频。特点包括模糊去重（快16倍），质量过滤（30多种启发式方法），语义去重，个人身份信息删除，成人内容检测。通过RAPIDS在多个GPU上扩展。可用于准备高质量的训练数据集、清理网络数据或对大型语料库进行去重。
download10deployed_code—star23.1K
personjakexiao无需 Key
axolotl
专家指导使用Axolotl微调LLMs - YAML配置，100+模型，支持LoRA/QLoRA，DPO/KTO/ORPO/GRPO，多模态支持
download10deployed_code—star23.1K
personjakexiao无需 Key
sparse-autoencoder-training
提供了使用SAELens训练和分析稀疏自动编码器（SAEs）的指导，以将神经网络激活分解为可解释的特征。在发现可解释的特征、分析叠加现象或研究语言模型中的单义表示时使用。
download10deployed_code—star23.1K
personjakexiao无需 Key
nnsight-remote-interpretability
提供了使用nnsight解释和操作神经网络内部的指导，可选NDIF远程执行。当需要在没有本地GPU资源的情况下对大规模模型（70B+）运行可解释性实验时，或在处理任何PyTorch架构时使用。
download10deployed_code—star23.1K
personjakexiao无需 Key
distributed-llm-pretraining-torchtitan
使用torchtitan提供4D并行（FSDP2、TP、PP、CP）的PyTorch原生分布式LLM预训练。当使用8到512+个GPU以及Float8、torch.compile和分布式检查点对Llama 3.1、DeepSeek V3或自定义模型进行大规模预训练时，请使用此功能。
download10deployed_code—star23.1K
personjakexiao无需 Key
miles-rl-training
提供了使用miles（一个生产就绪的slime分支）进行企业级RL训练的指导。当使用FP8/INT4训练大型MoE模型、需要训练-推理对齐或要求通过推测性RL以实现最大吞吐量时，请使用。
download10deployed_code—star23.1K
personjakexiao无需 Key
faceforensics_classifier
在FaceForensics++数据集上训练的深度伪造和换脸分类器
download10deployed_code—star0
personjakexiao无需 Key
scikit_image
先进的图像处理算法用于文档分析
download10deployed_code—star0
personjakexiao无需 Key
knowledge-distillation
使用从教师模型到学生模型的知识蒸馏来压缩大型语言模型。当部署保留性能的小型模型、将GPT-4的能力转移到开源模型或减少推理成本时使用。涵盖温度缩放、软目标、反向KLD、logit蒸馏和MiniLLM训练策略。
download10deployed_code—star23.1K
personjakexiao无需 Key
sglang
使用RadixAttention前缀缓存为大型语言模型提供快速结构化生成和服务。适用于JSON/正则表达式输出、约束解码、带有工具调用的工作流，或者当您需要比vLLM通过共享前缀快5倍的推理速度时。在xAI、AMD、NVIDIA和LinkedIn上支持超过300,000个GPU。
download10deployed_code—star23.1K
personjakexiao无需 Key
transformer-lens-interpretability
提供了使用TransformerLens通过HookPoints和激活缓存来检查和操作transformer内部的机制可解释性研究指南。在逆向工程模型算法、研究注意力模式或执行激活修补实验时使用。
download10deployed_code—star23.1K
personjakexiao无需 Key
audiocraft-audio-generation
用于音频生成的PyTorch库，包括文本转音乐（MusicGen）和文本转声音（AudioGen）。当您需要从文本描述生成音乐、创建音效或执行基于旋律条件的音乐生成时使用。
download10deployed_code—star23.1K
personjakexiao无需 Key
hqq-quantization
半二次量化用于无需校准数据的LLMs。当将模型量化为4/3/2位精度且不需要校准数据集时使用，适用于快速量化工作流程，或在使用vLLM或HuggingFace Transformers部署时。
download10deployed_code—star23.1K
personjakexiao无需 Key
gptq
针对大型语言模型的后训练4位量化技术，能在几乎不损失准确性的前提下使用。适用于将大模型（如70B、405B参数规模）部署到消费级GPU上，当你需要内存减少4倍且困惑度降低不超过2%时，或者相对于FP16格式希望获得更快的推理速度（3-4倍加速）。该技术与transformers和PEFT集成，支持QLoRA微调。
download10deployed_code—star23.1K
personjakexiao无需 Key
fp16_int8_quantization
将ML模型量化为FP16/INT8以减少内存使用并加速KYC流程中的推理
download10deployed_code—star0
personjakexiao无需 Key
llamaindex
用于构建带有RAG的LLM应用程序的数据框架。专注于文档摄取（300多个连接器）、索引和查询。具有向量索引、查询引擎、代理和支持多模态的特点。可用于文档问答、聊天机器人、知识检索或构建RAG管道。最适合以数据为中心的LLM应用程序。
download10deployed_code—star23.1K
personjakexiao无需 Key
peft-fine-tuning
使用LoRA、QLoRA和25种以上的方法对LLM进行参数高效的微调。当在有限的GPU内存下微调大型模型（7B-70B）时，或者当你需要以最小的精度损失训练小于1%的参数，或者用于多适配器服务时，请使用此方法。与transformers生态系统集成的HuggingFace官方库。
download10deployed_code—star23.1K
personjakexiao无需 Key
llama-cpp
在CPU、Apple Silicon和非NVIDIA的消费级GPU上运行LLM推理。适用于边缘部署、M1/M2/M3 Macs、AMD/Intel GPU，或当CUDA不可用时。支持GGUF量化（1.5-8位），以减少内存使用，并在CPU上相比PyTorch提供4-10倍的速度提升。
download10deployed_code—star23.1K
personjakexiao无需 Key
pyvene-interventions
提供了使用pyvene的声明式干预框架对PyTorch模型进行因果干预的指导。在进行因果追踪、激活修补、互换干预训练或测试关于模型行为的因果假设时使用。
download10deployed_code—star23.1K
personjakexiao无需 Key
llava
大型语言和视觉助手。支持视觉指令调优和基于图像的对话。结合了CLIP视觉编码器与Vicuna/LLaMA语言模型。支持多轮次图像聊天、视觉问答以及指令执行。可用于构建视觉-语言聊天机器人或图像理解任务。最适合用于对话式的图像分析。
download10deployed_code—star23.1K
personjakexiao无需 Key
optimizing-attention-flash
通过Flash Attention优化变压器注意力，实现2-4倍的速度提升和10-20倍的内存减少。当训练/运行具有长序列（>512个令牌）的变压器时遇到GPU内存问题或需要更快的推理时使用。支持PyTorch原生SDPA、flash-attn库、H100 FP8以及滑动窗口注意力。
download10deployed_code—star23.1K
personjakexiao无需 Key
torchforge-rl-training
提供了使用torchforge（Meta的库，将基础设施与算法分离）进行PyTorch原生代理RL的指导。当您需要清晰的RL抽象、易于进行算法实验或希望通过Monarch和TorchTitan实现可扩展训练时，请使用此指南。
download10deployed_code—star23.1K