数学右脑
Lean4编程语言和定理证明器
- https://github.com/leanprover/lean4
Lean4编程语言编写的科学计算库,用于求解微分方程、优化或机器学习等应用
- https://github.com/lecopivo/SciLean
- https://github.com/leanprover-community/mathlib4
Neuro-symbolic AI (符号人工智能)
Neuro-symbolic AI(神经符号人工智能) 是目前人工智能领域最前沿、也是最被看好的方向之一
- AlphaProof 模式
- AlphaGeometry
- 其他基于Lean4的AI
Lean-4 神经网络库,灵感来自 micrograd。
- https://github.com/kevbuh/leangrad
AI 辅助
LeanDojo-v2 是一个端到端的框架,用于训练、评估和部署 Lean 4 的 AI 辅助定理证明器。它将存储库跟踪、终身数据集管理、检索增强代理、Hugging Face 微调和外部推理 API 集成到一个工具包中。
- https://github.com/lean-dojo/LeanDojo-v2
几何代数库
- https://github.com/wolftype/versor
- https://github.com/laffernandes/gatl
- https://github.com/jeremyong/klein
基于张量的几何代数库
- https://github.com/Prograf-UFF/TbGAL
一种具有关联层的非线性序列神经网络的代码和论文
- https://github.com/Prograf-UFF/ConformalLayers
- https://arxiv.org/abs/2110.12108
利用稀疏点感知世界,一个用于点云感知研究的代码库
- https://github.com/Pointcept/Pointcept
- https://github.com/Pointcept/Concerto
- https://github.com/Pointcept/PointTransformerV3
- https://github.com/Pointcept/SAMPart3D
- https://github.com/Pointcept/OpenIns3D
几何代数转换器
- https://github.com/Qualcomm-AI-research/geometric-algebra-transformer
PyG (PyTorch Geometric) 作为一个极其活跃的图神经网络库
1. 领域专用扩展库 (Domain-Specific Libraries)
这些库基于 PyG 构建,专门解决特定领域(如时空预测、物理模拟、大规模图学习)的问题: • PyTorch Geometric Temporal (时空图学习) ◦ 描述:这是 PyG 的一个时间(动态)扩展库。它结合了最新的机器学习算法用于神经时空信号处理,支持流行病学预测、网约车需求预测和网络流量管理等任务。 ◦ 包含模型:DCRNN, GConvGRU, STGCN, A3T-GCN, AGCRN 等。 ◦ GitHub 地址: https://github.com/benedekrozemberczki/pytorch_geometric_temporal • GraphStorm (企业级大规模图机器学习) ◦ 描述:由 AWS 开发的低代码企业级 GML 框架,旨在处理十亿级节点和边的图。虽然它早期主要基于 DGL,但最新版本和相关工具(如 GNN Training and Deployment Tool)已明确支持 PyG 作为后端框架,用于构建端到端的工作流。 ◦ GitHub 地址: https://github.com/awslabs/graphstorm • NVIDIA PhysicsNeMo (物理模拟 AI) ◦ 描述:NVIDIA 的物理机器学习框架。从 25.08 版本开始,PhysicsNeMo 引入了 PyG 作为 GNN 后端,并且计划在未来版本中将其作为默认后端(替代 DGL),用于加速网格模拟(如 MeshGraphNet, AeroGraphNet)和气象预测。 ◦ 文档/资源: https://docs.nvidia.com/physicsnemo (虽然未直接给出 GitHub,但这是其主要开源框架的一部分) • CogDL (图深度学习工具包) ◦ 描述:由清华大学团队开发的图深度学习工具包。它允许研究人员轻松训练和比较基线模型。CogDL 允许用户使用 PyTorch Geometric 中的模块来实现自己的模型。 ◦ GitHub 地址: https://github.com/THUDM/CogDL
2. PyG 官方集成的模型库 (Implemented Models in PyG)
PyG 本身就是一个巨大的模型仓库,涵盖了各个领域的经典与前沿模型。你可以在 PyG 的核心库中直接找到这些模型的实现: • GitHub 地址: https://github.com/pyg-team/pytorch_geometric PyG 内部实现的著名模型包括但不限于: • 基础 GNN: GCN, GraphSAGE, GAT, GIN, ChebConv. • 科学计算与分子: SchNet, DimeNet, DimeNet++, ViSNet (用于量子化学和药物发现). • 计算机视觉 (3D 点云): PointNet, PointNet++, EdgeConv, PointTransformer. • 知识图谱: TransE, RotatE, DistMult, ComplEx. • 异构图与大规模图: HGT (Heterogeneous Graph Transformer), ClusterGCN, GraphSAINT. • 解释性模型: GNNExplainer.
3. 基准测试与工具 (Benchmarks & Utilities)
• OGB (Open Graph Benchmark) ◦ 描述:这是图机器学习领域的标准基准数据集集合。OGB 提供了专门的 PyG 数据加载器 (PygGraphPropPredDataset),使得在 PyG 中加载和评估 OGB 数据集变得非常简单。 ◦ GitHub 地址: https://github.com/snap-stanford/ogb • tsl (Torch Spatiotemporal) ◦ 描述:这是一个基于 PyTorch、PyG 和 PyTorch Lightning 构建的时空数据处理库,旨在简化时空图神经网络的研究。 ◦ PyPI/文档: https://pypi.org/project/torch-spatiotemporal/
4. 特定前沿应用 (Specific Applications)
• G-Retriever (RAG + GNN) ◦ 描述:这是一种将 GNN 与大语言模型(LLM)结合的检索增强生成(RAG)方法,用于文本图理解和问答。该模型利用 PyG 来编码检索到的子图