第三课 " 机器学习理论常用范畴 " 简介

大多数机器学习系统的构建主要是由实践中效果良好的启发式方法指导的。虽然复杂模型的单个组成部分在数学上通常发展良好，但它们的组合和结合往往理解不足。一些研究人员已经开始关注机器学习组件的组合性，其他人呼吁建立广泛的框架，以统一机器学习理论和实践。尽管如此，似乎还没有普遍的共识关于如何确切地实现这一目标。

同时，范畴论领域一直在稳步发展。它正在成为数学和物理学中的统一力量，并在近年来拓展到化学、统计学、博弈论、因果关系和数据库理论中。作为组合性的科学，它帮助构建思想和想法，发现科学不同分支之间的共性，并将想法从一个领域转移到另一个领域。许多现代机器学习系统本质上是组合性的。

本节总结机器学习论文中常见的范畴思想，介绍普遍适用的背景范畴，以及常用的具体的范畴，同时深入探讨为什么以这些范畴为背景进行不同机器学习方法论的研究。

课程大纲：

（1）幺半范畴、充实范畴

（2）笛卡尔微分范畴，引入了光学及透镜的范畴

（3）马尔可夫范畴、准 Borel 范畴、Kleisli 范畴

（4）（有限）度量范畴

重点参考资料：

关于范畴思想的机器学习的数十篇论文：

https://github.com/bgavran/Category_Theory_Machine_Learning?tab=readme-ov-file

主讲老师

贾伊阳，日本成蹊大学助理教授。研究重点是计算复杂性、算法，以及范畴相关理论。

分享信息

分享时间：2024 年 3 月 18 日 19:00-21:00

分享方式：

1. 腾讯会议（报名付费课程可见）

2. 集智学园视频号直播

「范畴论与机器学习」系列课程

等你加入

为了帮助大家对范畴论与机器学习这一交叉领域有深入的了解，理解机器学习方法背后的范畴意义，集智学园联合日本成蹊大学助理教授贾伊阳，推出了「范畴论与机器学习」系列课程，旨在面向机器学习领域并且希望深入到理论思想层面、身在数学领域想要利用人工智能解决问题的、以及希望了解一些范畴论应用前景（例如和人工智能、量子计算融合的可能）的研究者，科普机器学习前沿领域论文中出现的范畴论知识。

本系列课程将以机器学习与范畴论的报告、论文和教材为课程材料，介绍其中的重要概念，以及更重要的是在这些概念背后隐藏的思想。从范畴观点切入机器学习，包括对机器学习的某些方法论建立背景的具体范畴的研究方法，以及从神经网络架构等出发研究在范畴上的某些结构，例如 " 层 "，" 纤维 "，"topos" 等的研究方法。这些繁琐的术语，复杂的概念如果从纯粹数学的角度出发，全然理解要耗费数年时间。本课程的主要目的是引导大家在避免过度消耗精力的同时快速了解这些概念和范畴架构在机器学习理论及应用中的意义。

如果你对此主题感兴趣，欢迎加入课程与老师同学共同学习探讨。

1. 课程链接：https://campus.swarma.org/course/5305

2. 系列课程详细信息：站在范畴论视角看机器学习 | 「范畴论与机器学习」系列课程上线

加入 VIP，解锁集智课程 & 读书会

集智长期深耕复杂系统与跨学科研究，在网络科学、系统理论、混沌科学等经典领域持续策划精品课程，同时也追踪因果科学、深度学习、复杂经济学、生命复杂性、社会计算、AI+Science、大模型、神经科学、城市科学等交叉前沿。汇集了大量的探索者，包括教授、硕博、工程师、创业者等等。

为了帮助有学习需求的朋友夯实学科基础，帮有科研需求的朋友深入前沿交流，我们开放了 1 年制和 2 年制的集智学园 VIP 计划。VIP 用户可以深度参与集智俱乐部社区，并在会员期内解锁集智学园全站课程权限。

更多关于 VIP 介绍，请点击查看：加入集智学园 VIP，一次性获取集智平台所有内容资源