Masutangu

也許我這一生　始終在追逐那顆九號球

卷积神经网络

从全连接层到卷积 全连接层中，每个神经元彼此相连： 在做图像识别时，以 $28 \times 28$ 的图像为例，会将其展平为 $784$（$= 28 \times 28$）个元素的向量作为神经网络的输入，但展平后会丢失了像素的空间信息。 而卷积神经网络是局部连接的，并且输入保留了空间信息，因此经常被用于图像识别。卷积神经网络的常见架构如下： 卷积...

Posted by Masutangu on September 4, 2022

极大似然和损失函数

概率 Probability vs. 推断  Inference 在概率论中，通常我们会告知某个事件发生的概率是多少。比如一枚硬币正面朝上的概率是 0.5，在这个前提下，再继续计算复杂事件发生的概率，例如：投 10 次硬币，出现正面朝上的概率是多大？ \[\binom{10}{4}\times(0.5^4)\times(0.5^{10-4}) = 0.205\]...

Posted by Masutangu on September 3, 2022

线性回归到深度网络

线性回归与单层神经网络 我们可以用神经网络来描述线性回归模型： 上图所示的神经网络中，输入为 $ x_1, \ldots, x_d $，因此输入层中的输入数（或称为特征维度 feature dimensionality）为 $d$。 网络的输出为 $o_1$，因此输出层中的输出数是 $1$。通常计算神经网络的层数时不考虑输入层，因此上图的神经网络层数为 $1...

Posted by Masutangu on August 25, 2022

线性回归、损失函数以及梯度下降

线性回归 回归（regression）是能为一个或多个自变量与因变量之间关系建模的一类方法。 在机器学习领域中的大多数任务通常都与预测（prediction）有关。 当我们想预测一个或多个连续数值时，就会涉及到回归问题（如果是有限数量的离散数值，则属于分类问题）。 在机器学习领域，通常使用的是高维数据集。当我们的输入包含 $ d $ 个特征时，将所有特征放到向量...

Posted by Masutangu on August 24, 2022

2022, Data Scientist!

很久之前看过乔布斯在斯坦福大学的演讲，关于他人生中的三个故事。其中第一个故事，串联生命中的点点滴滴，给我留下很深刻的印象。 乔布斯因为看不到大学的价值而做出了退学的决定，不用再上那些他并不感兴趣的必修课，而是选修了他自己觉得更有趣的课程，比如美术字课。虽然那时他觉得并不会有什么实际应用，但最终在设计第一台 Macintosh 电脑的时候，他把当初美术字课程里学到的字体设计进了 Mac，也是...

Posted by Masutangu on December 31, 2021

强化学习之 AlphaGo 的诞生

从井字棋说起 很多人都玩过井字棋，下棋的时候怎么提高自己赢的概率呢？高手又是怎么下棋的呢？如何找到胜率更高的下法？ 其实非常简单，不管是井字棋，还是象棋或者围棋，在下棋的时候，我们都会在脑海里进行模拟： 通过模拟，每走一步前，提前想好后面十步，以提高胜率。在井字棋中，甚至可以通过模拟来找到必胜走法（例如上图中的第一步）。 只要能穷举出所有可能的落子和棋局，我们就能算出每个棋局的胜率...

Posted by Masutangu on October 24, 2021

一致性哈希的应用

一致性哈希 一致性哈希是业界最常用的哈希方案，通常在分布式系统中会采用一致性哈希的方式对请求进行路由。 哈希算法的好坏有四个标准：均衡性（Balance）、单调性（Monotonicity）、分散性（Spread）和负载（Load），具体可以参考论文 Consistent Hashing - A Distributed Caching Protocol。 这里重点提一下单调性。哈希桶数...

Posted by Masutangu on July 3, 2021

从路由层说起

背景 在游戏后台中，路由是一个比较重要的模块。路由作为中间层，可以解耦服务调用方和服务响应方： 常见的路由方式包括随机、轮询、一致性哈希、取模、主（备）等，同时还可以在路由层实现负载均衡的能力。以战斗服为例，后台架构通常如下： 因为 BattleSvr 是带状态的。通常我们会将房间 Id 做为 key 值，采用一致性哈希的方式路由，保证同一个房间 Id 的消息始终路由到同一台 ...

Posted by Masutangu on January 25, 2021

Hello 2021

不经意间 2020 就这样过去了。按照惯例，开年写一篇回顾和期望。 关于博客 博客今年只更新了一篇文章，不过不是偷懒。之前一直有整理 wiki 的想法，刚好朋友介绍了 Notion，一款将笔记、知识库和任务管理整合在一起的工具，体验下来非常满足我的需求。因此这一年记录的重心基本上都在 Notion 上。同时因为笔记内容不打算公开，除了在一开始构建框架时花费了一些精力，把架子搭好后，就能随心...

Posted by Masutangu on January 3, 2021

Kubernetes 初体验

Kubernetes（简称 K8s）是 Google 推出的开源容器管理系统，提供了强大的容器编排能力。这篇文章主要是读<Kubernetes in Action> 和官方文档以及Kubernetes Handbook和Istio Handbook的一些总结，图例均取网上资料。 微服务 在介绍 K8s 之前，先聊聊后台架构的演化历程。随着业务的复杂性不断提高，后台架构也从单体...

Posted by Masutangu on August 29, 2020

FEATURED TAGS
个人项目 读书笔记 分布式 机器学习 源码阅读 随笔 汇编 Golang 工作 Python Linux 编程语言 协程 C C++ 优化&重构 强化学习 数学 数据库 Rust
ABOUT ME

"當我穿過沙漠遇見你
不可思議十三億分之一
遠處夕陽落入地平線裡
風吹過 過去 未來 現在
冥冥之中 誰在編排你"

C-BLOCK -《很高興認識你》

FRIENDS