逻辑回归(下): Sigmoid 函数的发展历史

news/2024/9/28 9:13:08 标签: 逻辑回归, 算法, 机器学习

背景

闲来无事翻了一下之前买的一个机器学习课程及之前记录的网络笔记,发现遇到公式都是截图,甚至是在纸上用笔推导的。重新整理一遍之前逻辑回归函数的学习笔记,主要是为了玩一下 LaTex 语法,写公式挺有意思的。

整理之前三篇笔记汇总如下:

  1. 逻辑回归(上):函数求导过程自推 LaTex 语法
  2. 逻辑回归(中):数学公式学习笔记 LaTeX 版
  3. 逻辑回归(下): Sigmoid 函数的发展历史

逻辑回归 S 曲线的发展历史

Sigmoid 这个S 形是怎么发展的呢?又怎么想到用它来做分类的呢?罗马不是一天建成的,Sigmoid 函数也不是一天形成的。逻辑回归的历史相当悠久,迄今大概已经有200年。它的前身,则在18世纪就已经出现了。

18世纪,随着工业革命的深入;世界经济、科技的发展;美洲的发现,以及随之而来的大移民和北美人口迅猛增长……各个学科对于统计学的工具性需求越来越强烈。到了19世纪,为了研究人口增长以及化学催化反应与时间的关系,人们发明了逻辑函数。

指数函数

这个大家都不陌生,这就是传说中增长最快的曲线,它的数学表达式为:
f ( x ) = a x f(x)=a^x f(x)=ax

最初,学者们将人口(或化合物)的数量与时间的函数定义为 W ( t ) W(t) W(t) t t t 代表时间变量, W ( t ) W(t) W(t) 代表总量,用指数函数表示为:
W ( t ) = a e b t ,其中 a , e , b 均为模型参数, t 为模型变量。 W(t)=ae^{bt},其中 a,e,b 均为模型参数,t 为模型变量。 W(t)=aebt,其中aeb均为模型参数,t为模型变量。

对该函数求导,就可以得到增长率。

未完,待续……

PS:先发出来,等今天晚些时候有空了再继续整理,数学还是很烧脑的。


http://www.niftyadmin.cn/n/5680791.html

相关文章

每日OJ_牛客_OR59字符串中找出连续最长的数字串_双指针_C++_Java

目录 牛客_OR59字符串中找出连续最长的数字串 题目解析 C代码1 C代码2 C代码3 Java代码 牛客_OR59字符串中找出连续最长的数字串 字符串中找出连续最长的数字串_牛客题霸_牛客网 题目解析 双指针: 遍历整个字符串,遇到数字的时候,用双…

万字长文理解无界队列和有界队列和适用场景

大家好,我是 V 哥,无界队列(Unbounded Queue)和有界队列(Bounded Queue)是两种常见的数据结构,用于存储和管理数据项。在计算机科学和并发编程中,它们有不同的特性和应用场景。下面详…

ubuntu22上C/C++程序使用weston+wayland+OpenGLES渲染

一,安装依赖软件:sudo apt install zlib1g-dev libssl-dev libgles2-mesa-dev libsystemd-dev libpng-dev libglib2.0-dev libwayland-dev weston libweston-9-dev 二,启动: # 运行weston weston -Swayland-1# 运行程序 ./yourp…

Vikhrmodels 发布俄英版Nemo——Vikhr-Nemo-12B-Instruct-R-21-09-24

Vikhr-Nemo 是我们的旗舰单模态 LLM(大语言模型),它是 VikhrModels 团队对 mistralai/Mistral-Nemo-Instruct-2407 的改进版本,主要适用于俄语和英语。 在训练过程中,我们使用了多个阶段,包括 SFT 和 SMPO&…

Llama 3.2:利用开放、可定制的模型实现边缘人工智能和视觉革命

在我们发布 Llama 3.1 模型群后的两个月内,包括 405B - 第一个开放的前沿级人工智能模型在内,它们所产生的影响令我们兴奋不已。 虽然这些模型非常强大,但我们也认识到,使用它们进行构建需要大量的计算资源和专业知识。 我们也听到…

【JVM】一篇文章彻底理解JVM的组成,各组件的底层实现逻辑

文章目录 JVM 的主要组成部分类加载器(Class Loader)1. 加载(Loading)2. 链接(Linking)3. 初始化(Initialization) Execution Engine(执行引擎)1. 解释器&…

Linux-du命令使用方法

Linux-du(disk useage)命令 du 命令用于查看文件和目录占用的磁盘空间。 du [选项] [文件或目录]-h (human-readable): 将输出格式转为人类可读的形式,使用 KB、MB 等单位。 du -h /path/to/directory1.5M /path/to/directory…

P3376 【模板】网络最大流(EK算法)

贴上模版。 网络流真的很有意思,写最大流前必须要理解清楚增广等相关概念,推荐 oi wiki的讲解,潜心钻研一下相关证明。 EK算法大致思路: ①:在残留网络上不断找 s s s 到 t t t 的增广路,记路径上残留…