基于JAVA语言实现跨平台通用的机器学习框架与应用研究

摘要

自2011人工智能的再次兴起让机器学习（Machine Learning）这个名词进入了公众的视野，它成为当前解决很多人工智能问题的核心基石。机器学习在通i机器视觉用目标检测和分割；自然语言处理，语音识别；策略控制类问题得到了很好的应用。然而大多数的机器学习框架是非java编写的。所以编写了基于JAVA语言的基础库。Java是一门面向对象编程语言，作为静态面向对象编程语言的代表，极好地实现了面向对象理论，允许程序员以优雅的思维方式进行复杂的编程；具有简单性、面向对象、分布式、健壮性、安全性、平台独立与可移植性、多线程、动态性等特点，基于JAVA语言实现跨平台通用的机器学习框架，为更多的系统提供机器学习的可能性。

关键词　机器学习；深度神经网络；自动求导；机器视觉；JAVA。

目录

摘要 I

目录 I

第1章 系统设计 3

1.1 需求分析 3

1.2 系统功能描述 3

1.3 功能模块划分 3

1.4 系统流程分析 4

第2章 计算图的实现 5

2.1 计算图简介 5

2.2 计算图的定义 5

2.3 代码实现 8

2.3.1 Tensor类核心实现如下： 8

2.3.2 Node类实现如下： 9

2.3.3 Engine类正向计算的核心实现如下： 10

第3章 自动求导实现 12

3.1 自动求导 12

3.2 代码实现 15

3.2.1 Tensor类基础的乘法运算求导实例代码如下： 15

3.2.2 None 梯度相关的核心实现： 15

3.2.3 Engine类反向计算自动梯度的核心实现如下： 16

第4章 部分常用运算的实现 20

4.1 矩阵运算 20

4.1.1 数学公式 20

4.1.2 矩阵乘法计算求导 20

4.1.3 核心代码实现 20

4.2 卷积运算 21

4.2.1 数学公式 21

4.2.2 核心代码实现 21

4.3 sigmoid激活函数 22

4.3.1 数学公式 22

4.3.2 Sigmoid 导数 23

4.3.3 Sigmoid 函数的三个主要缺陷： 23

4.3.4 核心代码实现 23

4.4 Relu激活函数 24

4.5 优化函数 25

4.5.1 均方差损失函数 25

4.5.2 交叉熵损失函数 25

第5章 基础算法实现 27

5.1 神经网络 27

5.1.1 全连接神经网络结构图 27

5.1.2 核心代码实现 27

5.2 手写识别体 28

5.2.1 LeNet简介 28

5.2.2 LeNet网络结构 28

5.2.3 实现过程 29

5.2.4 代码实现的难点 29

5.2.5 核心代码实现 30

5.2.6 运行结果图 31

参考文献 32