当前位置： 首页 > news >正文

【感知机】感知机(perceptron)学习策略

news 2025/8/7 21:41:23

感知机( perceptron )是二类分类的线性分类模型，其输入为实例的特征向量，输出为实例的类别，取+1 和-1二值。感知机对应输入空间(特征空间)中将实例划分为正负两类的分离超平面，是一种判别模型。感知机是神经网络与支持向量机的基础

感知机学习旨在求出将训练数据进行线性划分的分离超平面。

感知机学习策略

假设训练数据集线性可分

学习目标：求得正确划分训练集中所有正负实例点的分离超平面

学习策略：1、确定一个损失函数。2、选取使损失函数最小的参数。

损失函数的选择：误分类点到分离超平面的距离

任一点x_0到超平面的距离公式：\frac{1}{\left \| w \right \|}\left | w\cdot x_0+b \right |，其中\left \| w \right \|是w的L_2范数，

向量的L_2范数：向量各元素平方和的平方根

定理:对于误分类数据(x_i,y_i),有y_i(w\cdot x_i+b)<0

从而由距离公式和上述定理，得

误分类点x_i到超平面的距离公式：-y_i\frac{1}{\left \| w \right \|} (w\cdot x_i+b ) 

实现了去掉绝对值的工作

所有误分类点到超平面的总距离：- \frac{1}{\left \| w \right \|} \underset{x_i\in M}{\sum } y_i (w\cdot x_i+b ) ，M为误分类点集合

不必考虑\frac{1}{\left \| w \right \|},最终得到损失函数

损失函数：L(w,b)=- \underset{x_i\in M}{\sum } y_i (w\cdot x_i+b ) 

一 个特定的样本点的损失函数：在误分类时是参数w,b的线性函数；在正确分类时是0。

因此，

注： 给定训练数据集T时，损失函数是w,b的连续可导函数

http://www.lryc.cn/news/612579.html

相关文章：

  • 阿里云polardb-x 2.0迁移至华为云taurusdb
  • 【感知机】感知机(perceptron)模型与几何解释
  • MySQL数据库索引及底层数据结构
  • 2025国赛数学建模C题详细思路模型代码获取，备战国赛算法解析——决策树
  • 软件架构：系统结构的顶层设计与战略约束
  • Maven入门到精通
  • Cervantes：面向渗透测试人员和红队的开源协作平台
  • 进阶向:AI聊天机器人（NLP+DeepSeek API）
  • 《动手学深度学习》读书笔记—9.6编码器-解码器架构
  • 嵌入式学习---在 Linux 下的 C 语言学习 Day9
  • 河南萌新联赛2025第（四）场【补题】
  • 云端软件工程智能代理：任务委托与自动化实践全解
  • 【golang】基于redis zset实现并行流量控制（计数锁）
  • 【AI智能编程】Trae-IDE工具学习
  • javascript常用实例
  • Dart语言语法与技术重点
  • InfluxDB 集群部署与高可用方案（一）
  • 解决Node.js v12在Apple Silicon（M1/M2）上的安装问题
  • css怪异模式（Quirks Mode）和标准模式（Standards Mode）最明显的区别
  • Java零基础笔记13（Java编程核心：异常、泛型）
  • 数据结构 二叉树(1)二叉树简单了解
  • Python数据可视化：从基础到高级实战指南
  • Pytorch-07 如何快速把已经有的视觉模型权重扒拉过来为己所用
  • C语言的数组与字符串练习题1
  • VINS-Fusion+UWB辅助算法高精度实现
  • KNN算法：从原理到实战应用
  • 人工智能——深度学习——认识Tensor
  • k8s的存储之statefulset控制器
  • 数据结构（4）
  • 图解 Claude Code 子智能体 Sub-agent