2018年4月8日 星期日

機器學習筆記 (10) - 邏輯回歸分類模型(Logistic regression 或logit regression)

邏輯回歸分類模型(Logistic regression 或logit regression)


邏輯回歸分類模型跟適應性線性神經元模型就差在它所使用的激勵函數是 Sigmoid Function.
因為 Sigmoid 大小介於 0~1 就好像機率一樣,所以我們可以把最大或然當成 cost function去求其最大值或者加負號去求最小值。


2018年4月7日 星期六

機器學習筆記 (9) - Scikit-learn: 練習 Perceptron Model

Scikit-learn: 練習 Perceptron Model

透過 Scikit-learn 所內建的 Perceptron 線性分類器,讓我可以很簡單的就得到之前自己用 Numpy,Pandas 實作的類似結果,而且只要簡單幾行就可以做到,實在是太方便了!
不過在學習過程中如果可以自己試著實做看看應該還是會對演算法的了解有所幫助的

我是使用 Anaconda,所以主要安裝下面兩個 packages 就可以使用 scikit 了

conda install scikt-learn
conda install scikit-plot

實作練習碼: (Donut,Iris and Wine Dataset)
https://github.com/u8913557/myDataScience/blob/master/ML/perceptron_scikit_learn.py



2018年4月6日 星期五

機器學習筆記 (8) - 基本機器學習工作流程

基本機器學習工作流程(Machine Learning Workflow)



在 Happy coder 網站看到一篇關於機器學習的工作流程覺得對我這種初學者還蠻有幫助的。



  1. 明確定義問題 (Problem Definition)
  2. 獲取資料與探索性資料分析 (Get Data & Exploratory Data Analysis)
  3. 資料預處理與特徵工程 (Data Clean/Preprocessing & Feature Engineering)
  4. 訓練模型與校調 (Model Training)
  5. 模型驗證 (Model Predict & Testing)
  6. 模型優化 (Model Optimization)
  7. 上線運行 (Deploy Model)



機器學習筆記 (7) - Python 練習: 適應性線性神經元模型 (Adaptive Linear Neuron; Adaline)

Python 練習: 適應性線性神經元模型 (Adaptive Linear Neuron; Adaline)

為了加深對演算法的了解
還有練習適應性線性神經元模型在程式上的實作
以下是我的參考程式碼, 有錯還請指正。

https://github.com/u8913557/myDataScience/tree/master/ML
https://github.com/u8913557/myDataScience/blob/master/ML/adaline_test.py


2018年4月4日 星期三

機器學習筆記 (6) - 適應性線性神經元模型 (Adaptive Linear Neuron; Adaline)

適應性線性神經元模型 (Adaptive Linear Neuron; Adaline)


應性線性神經元模型跟感知器模型很像,差別在於它使用的激勵函數 (Activation function) 是條斜率為1的直線 (所以可微分; 步階函數在0點不可微) 而且權值的更新在通過步階函數之前

機器學習筆記 (5) - Python 練習: 感知器模型 (Perceptron Model)

Python 練習: 感知器模型 (Perceptron Model)

為了加深對演算法的了解
還有練習感知器模型在程式上的實作
以下是我的參考程式碼, 有錯還請指正。

https://github.com/u8913557/myDataScience/tree/master/ML
https://github.com/u8913557/myDataScience/blob/master/ML/perceptron_test.py


2018年4月1日 星期日

機器學習筆記 (4) - 感知器模型 (Perceptron)

感知器模型 (Perceptron)




1. 激勵函數 (activation function) 為 step function:

機器學習筆記(3) - 機器學習常用的演算法

機器學習常用的演算法: 

0. 感知器模型 (Perceptron)

1. 適應性線性神經元 (Adaptive Linear Neuron; Adaline)

2. 線性回歸 (Linear Regression)



3. 邏輯回歸 (Logistic Regression)


4. 支持向量機 (Support Vector Machine; SVM)


  • Linear SVM
  • Kernel SVM


5. 決策樹 (Decision Tree)


6. K-最近鄰演算法 (K-Nearest Neighbor; KNN)


7. K-均值演算法 (K-Means)


8. 隨機森林演算法 (Random Forest)

2018年3月31日 星期六

2018年3月30日 星期五

Blogger 加入 MathJax 的方式

在Layout中加入一個HTML/Javascript 小工具
然後在裡面貼上一段script

<script type="text/x-mathjax-config"> MathJax.Hub.Config({tex2jax: {inlineMath: [['$','$'], ['\\(','\\)']]}}); </script>
<script src="http://cdn.mathjax.org/mathjax/latest/MathJax.js?config=TeX-AMS-MML_HTMLorMML" type="text/javascript"></script>

以下是測試內容:
\[ \mathbf{V}_1 \times \mathbf{V}_2 = \begin{vmatrix} \mathbf{i} & \mathbf{j} & \mathbf{k} \\ \frac{\partial X}{\partial u} & \frac{\partial Y}{\partial u} & 0 \\ \frac{\partial X}{\partial v} & \frac{\partial Y}{\partial v} & 0 \\ \end{vmatrix} \]

機器學習筆記 (2) - 機器學習分類

機器學習(Machine Learning)是實現人工智慧(A.I.)的一種方式

其中又可分成三大類:
  • 監督式學習 (supervised learning) 的目標:
      給定輸入資料與所對應的標籤進行訓練學習

2018年1月12日 星期五

機器學習筆記(1) - 基本數學名詞

純量 (scalar):
又稱 標量,是只有大小,沒有方向,可用實數表示的一個量,實際上純量就是實數,純量這個稱法只是為了區別與向量的差別


向量 (vector) :
也稱作矢量,指一個同時具有大小方向幾何對象,因常常以箭頭符號標示以區別於其它量而得名