Info

  • Part I

  • Reinforcement Learning

    in progress

    RL经典算法实验

    DQN 等DRL方法训练智能体

    尝试AlphaZero

  • Computer Vision

    in progress

    ARkit实验

    研究YOLOv3

    comicsai.com 暂缓

  • Data Mining

    in progress

    情感分析

    CNN多标签分类应用于医疗数据

    Wide&Deep

    团队实习生的钓鱼网站识别项目

    网址http://ysecure.cn/

  • Sequence

    in progress

    chatbot

    证券市场价格序列分析

    DeepMind的Deepvariant在生物信息上使用DL


  • Part II

  • Social Network

    done

    腾讯微博

    梦宝谷社区

  • Mobile Internet

    done

    Mobile Game NBA all net

  • Platform

    done

    开放平台和大数据平台

Detail

YOLOv3

使用了残差网络和FPN

单目标检测

单个人像

Loss采用平方误差,加权计算置信度,坐标等误差

多目标检测

拍了张附近广场的照片

k-means算法选择Anchor Box

构建树形结构,使用softmax分类

结构图

DarkNet-53,吸收了残差,CNN,1x1 卷积核等近期技术进展

FPN,upsample多尺度特征图检测

Financial & ML

不同机器学习的回归算法比较

不同训练数据:黄色股价,紫色市场情绪,红色包含两者

绿色均线,黑色合并误差

训练数据1200天,测试120天

注意90日公布财报后下跌

Linear

价格推断:随价格波动,偏离均线

情绪推断:不连续,波动大,数值偏大

合并推断:随价格波动,不受情绪影响

线性回归算法,误差较小,回调时误差增大,情绪波动大

Ensemble

价格推断:随价格波动,偏离均线

情绪推断:连续,波动小

合并推断:随价格波动,受情绪影响小

集成算法,误差偏大,预测数据呈平台分布,波动小

RNN

价格推断:随均线波动

情绪推断:连续,波动大,有高峰低谷

合并推断:随均线波动,受情绪影响

RNN算法,具有记忆,接近均线,连续性好,情绪敏感,回调急拉不敏感,下跌敏感

90日公布财报,80日情绪有所反应

Alpha Mini

算力有限,简化模型用于实验

简单目标,6x6棋盘上四子棋

结构比较

实验不同网络结构,1次迭代,10个epochs

cnn1适当减少CNN层,GlobalAveragePooling替换FC,训练更快,loss下降一般

cnn4是包含1个残差结构的ResNet,训练较快,loss下降较多

训练过程

网络结构,channels和epochs影响拟合

样本,episodes,iterations,examples影响分布

自我对弈积累examples用于学习,MCTS模拟

新模型和老模型进行对弈,赢的替换为当前最优模型

结构图

图示简化,仅1个残差的小型ResNet

策略pi通过softmax得到,交叉熵计算loss

价值v=通过tanh得到,均方误差计算loss

AR + CV

AR与CV相辅相成

AR

ARkit提供增强现实能力

SceneKit制作简单的物体

ML

CoreML提供标准的输入输出和计算能力

tfcoreml转换Tensorflow模型到mlmodel文件

tfcoreml脚本需要设置输入输出结构,pb文件,标签等

CV

MobileNet,SqueezeNet是轻量的图像识别模型,适合移动端使用

迁移学习可以帮助在样本较少的情况下得到一个表现不错的模型

Tensorflow JS

Google一直在推进各个终端的版本

新出炉,先体验一下官方摄像头例子

将来有时间写一个自己的例子

获取数据

自定义姿势

采集不同控制的图像

对图像进行裁剪,归一化等操作

训练

20 epochs,loss已经很低了

Mobilenet在线学习

play

通过摄像头识别手势控制游戏方向

挺好,就是有点累

Hybrid

对不同种类的花朵图片混合

通过提取的特征调节生成结果

可以使用AutoEncoder或者GAN

PCA主成分分析

计算协方差特征值,选取前20个特征值

可以看到前4个特征影响最大

Decoder

使用Conv2DTranspose

调节前4个特征,生成新花朵

黄色来自葵花,形状来自雏菊,镶嵌的白色棉质部分来自蒲公英

数据处理

数据集需要筛选,加入噪音

Next comming soon