Mamason Blog

WORD 除了可以插入頁碼之外
其實也可以做到自動建立總頁數

1. 將txt檔用Word開啟後，
2. 按“Ctrl+H”，

遠端桌面的設定請檢查以下幾個重點 
1. 我的電腦圖示右鍵->內容->遠端

收到銀行簡訊說要送我一杯超商的拿鐵，結果我興高采烈地去KIOSK 列印
一開始拿到的時候上面的barcode原本就沒很清楚，但是我也不以為意

Matlab檔案關聯
在MATLAB的File Exchagne看到的，在此備份一下，原始來源：

今天在學習Maximum a posteriori 在網路上看到了好文章
怕以後找不到轉錄到在這裡,原文在:

今天為了想找去英國的圖資
意外發現了Garmin有相容圖資，立馬試了一下沒想到真的可以用耶~開心!!
這樣就不用花錢或是破解Garmin的圖資了
這要感謝 OpenStreetMap 的努力!!

KL散度（Kullback–Leibler divergence，簡稱KLD），相對熵（relative entropy）  

 

轉自 : http://xgli0910.blog.163.com/blog/static/46962168201311183233569/

 

相對熵（relative entropy）又稱為KL散度（Kullback–Leibler divergence，簡稱KLD），資訊散度（information divergence），資訊增益（information gain）。 
KL散度是兩個概率分佈P和Q差別的非對稱性的度量。

KL散度是用來度量使用基於Q的編碼來編碼來自P的樣本平均所需的額外的比特個數。典型情況下，P表示資料的真實分佈，Q表示資料的理論分佈，模型分佈，或P的近似分佈。

 

KL-divergence，俗稱KL距離，常用來衡量兩個概率分佈的距離。

根據shannon的資訊理論，給定一個字元集的概率分佈，我們可以設計一種編碼，使得表示該字元集組成的字串平均需要的比特數最少。假設這個字元集是X，對x∈X，其出現概率為P(x)，那麼其最優編碼平均需要的比特數等於這個字元集的熵：

H(X)=∑_x∈XP(x)log[1/P(x)]

在同樣的字元集上，假設存在另一個概率分佈Q(X)。如果用概率分佈P(X)的最優編碼（即字元x的編碼長度等於log[1/P(x)]），來為符合分佈Q(X)的字元編碼，那麼表示這些字元就會比理想情況多用一些比特數。KL-divergence就是用來衡量這種情況下平均每個字元多用的比特數，因此可以用來衡量兩個分佈的距離。即：

D_KL(Q||P)=∑_x∈XQ(x)[log(1/P(x))] - ∑_x∈XQ(x)[log[1/Q(x)]]=∑_x∈XQ(x)log[Q(x)/P(x)]

由於-log(u)是凸函數，因此有下面的不等式

D_KL(Q||P) = -∑_x∈XQ(x)log[P(x)/Q(x)] = E[-logP(x)/Q(x)] ≥ -logE[P(x)/Q(x)] = -log∑_x∈XQ(x)P(x)/Q(x) = 0

即KL-divergence始終是大於等於0的。當且僅當兩分佈相同時，KL-divergence等於0。

===========================

舉一個實際的例子吧：比如有四個類別，一個方法A得到四個類別的概率分別是0.1,0.2,0.3,0.4。

另一種方法B（或者說是事實情況）是得到四個類別的概率分別是0.4,0.3,0.2,0.1,

那麼這兩個分佈的KL-Distance(A,B)=0.1*log(0.1/0.4)+0.2*log(0.2/0.3)+0.3*log(0.3/0.2)+0.4*log(0.4/0.1)

這個裡面有正的，有負的，可以證明KL-Distance()>=0.

從上面可以看出， KL散度是不對稱的。即KL-Distance(A,B)!=KL-Distance(B,A)

KL散度是不對稱的，當然，如果希望把它變對稱，
Ds(p1, p2) = [D(p1, p2) + D(p2, p1)] / 2.

 

Office2003/2007/2010這三個版本一起安裝在電腦上會出現office安裝缺少元件的畫面，
 
下面的方法可以解決同時安裝多個版本的Office的所發生的衝突
 

M3U 是Winamp播放器使用的播放清單，同時也可以相容於其他的播放程式(如:media player)
M3U的格式相當簡單基本上就是依照撥放的順序建立檔名如:
1.mp3
2.mp3