主頁 > 知識(shí)庫 > PHP實(shí)現(xiàn)機(jī)器學(xué)習(xí)之樸素貝葉斯算法詳解

PHP實(shí)現(xiàn)機(jī)器學(xué)習(xí)之樸素貝葉斯算法詳解

熱門標(biāo)簽:全國各省地圖標(biāo)注點(diǎn) 400電話申請(qǐng)辦理 隨州銷售電銷機(jī)器人公司 福建高頻外呼防封系統(tǒng)哪家好 網(wǎng)絡(luò)電話400申請(qǐng) 外呼系統(tǒng)人工客服 百度地圖標(biāo)注類型是酒店 周口網(wǎng)絡(luò)回?fù)芡夂粝到y(tǒng) 商丘外呼系統(tǒng)好處

本文實(shí)例講述了PHP實(shí)現(xiàn)機(jī)器學(xué)習(xí)之樸素貝葉斯算法。分享給大家供大家參考,具體如下:

機(jī)器學(xué)習(xí)已經(jīng)在我們的生活中變得隨處可見了。比如從你在家的時(shí)候溫控器開始工作到智能汽車以及我們口袋中的智能手機(jī)。機(jī)器學(xué)習(xí)看上去已經(jīng)無處不在并且是一個(gè)非常值得探索的領(lǐng)域。但是什么是機(jī)器學(xué)習(xí)呢?通常來說,機(jī)器學(xué)習(xí)就是讓系統(tǒng)不斷的學(xué)習(xí)并且對(duì)新的問題進(jìn)行預(yù)測(cè)。從簡單的預(yù)測(cè)購物商品到復(fù)雜的數(shù)字助理預(yù)測(cè)。

在這篇文章我將會(huì)使用樸素貝葉斯算法Clasifier作為一個(gè)類來介紹。這是一個(gè)簡單易于實(shí)施的算法,并且可給出滿意的結(jié)果。但是這個(gè)算法是需要一點(diǎn)統(tǒng)計(jì)學(xué)的知識(shí)去理解的。在文章的最后部分你可以看到一些實(shí)例代碼,甚至自己去嘗試著自己做一下你的機(jī)器學(xué)習(xí)。

起步

那么,這個(gè)Classifier是要用來實(shí)現(xiàn)什么功能呢?其實(shí)它主要是用來判斷給定的語句是積極地還是消極的。比如,“Symfony is the best”是一個(gè)積極的語句,“No Symfony is bad”是一個(gè)消極的語句。所以在給定了一個(gè)語句之后,我想讓這個(gè)Classifier在我不給定一個(gè)新的規(guī)則的情況就返回一個(gè)語句類型。

我給Classifier命名了一個(gè)相同名稱的類,并且包含一個(gè)guess方法。這個(gè)方法接受一個(gè)語句的輸入,并且會(huì)返回這個(gè)語句是積極的還是消極的。這個(gè)類就像下面這樣:

class Classifier
{
 public function guess($statement)
 {}
}

我更喜歡使用枚舉類型的類而不是字符串作為我的返回值。我將這個(gè)枚舉類型的類命名為Type,并且包含兩個(gè)常量:一個(gè)POSITIVE,一個(gè)NEGATIVE。這兩個(gè)常量將會(huì)當(dāng)做guess方法的返回值。

class Type
{
 const POSITIVE = 'positive';
 const NEGATIVE = 'negative';
}

初始化工作已經(jīng)完成,接下來就是要編寫我們的算法進(jìn)行預(yù)測(cè)了。

樸素貝葉斯

樸素貝葉斯算法是基于一個(gè)訓(xùn)練集合工作的,根據(jù)這個(gè)訓(xùn)練集從而做出相應(yīng)的預(yù)測(cè)。這個(gè)算法運(yùn)用了簡單的統(tǒng)計(jì)學(xué)以及一點(diǎn)數(shù)學(xué)去進(jìn)行結(jié)果的計(jì)算。比如像下面四個(gè)文本組成的訓(xùn)練集合:

語句 類型
Symfony is the best Positive
PhpStorm is great Positive
Iltar complains a lot Negative
No Symfony is bad Negative


如果給定語句是“Symfony is the best”,那么你可以說這個(gè)語句是積極地。你平常也會(huì)根據(jù)之前學(xué)習(xí)到的相應(yīng)知識(shí)做出對(duì)應(yīng)的決定,樸素貝葉斯算法也是同樣的道理:它根據(jù)之前的訓(xùn)練集來決定哪一個(gè)類型更加相近。

學(xué)習(xí)

在這個(gè)算法正式工作之前,它需要大量的歷史信息作為訓(xùn)練集。它需要知道兩件事:每一個(gè)類型對(duì)應(yīng)的詞產(chǎn)生了多少次和每一個(gè)語句對(duì)應(yīng)的類型是什么。我們?cè)趯?shí)施的時(shí)候會(huì)將這兩種信息存儲(chǔ)在兩個(gè)數(shù)組當(dāng)中。一個(gè)數(shù)組包含每一類型的詞語統(tǒng)計(jì),另一個(gè)數(shù)組包含每一個(gè)類型的語句統(tǒng)計(jì)。所有的其他信息都可以從這兩個(gè)數(shù)組中聚合。代碼就像下面的一樣:

function learn($statement, $type)
{
 $words = $this->getWords($statement);
 foreach ($words as $word) {
 if (!isset($this->words[$type][$word])) {
  $this->words[$type][$word] = 0;
 }
 $this->words[$type][$word]++; // 增加類型的詞語統(tǒng)計(jì)
 }
 $this->documents[$type]++; // 增加類型的語句統(tǒng)計(jì)
}

有了這個(gè)集合以后,現(xiàn)在這個(gè)算法就可以根據(jù)歷史數(shù)據(jù)接受預(yù)測(cè)訓(xùn)練了。

定義

為了解釋這個(gè)算法是如何工作的,幾個(gè)定義是必要的。首先,讓我們定義一下輸入的語句是給定類型中的一個(gè)的概率。這個(gè)將會(huì)表示為P(Type)。它是以已知類型的數(shù)據(jù)的類型作為分子,還有整個(gè)訓(xùn)練集的數(shù)據(jù)數(shù)量作為分母來得出的。一個(gè)數(shù)據(jù)就是整個(gè)訓(xùn)練集中的一個(gè)。到現(xiàn)在為止,這個(gè)方法可以將會(huì)命名為totalP,像下面這樣:

function totalP($type)
{
 return ($this->documents[$type] + 1) / (array_sum($this->documents) + 1);
}

請(qǐng)注意,在這里分子和分母都加了1。這是為了避免分子和分母都為0的情況。

根據(jù)上面的訓(xùn)練集的例子,積極和消極的類型都會(huì)得出0.6的概率。每中類型的數(shù)據(jù)都是2個(gè),一共是4個(gè)數(shù)據(jù)所以就是(2+1)/(4+1)。

第二個(gè)要定義的是對(duì)于給定的一個(gè)詞是屬于哪個(gè)確定類型的概率。這個(gè)我們定義成P(word,Type)。首先我們要得到一個(gè)詞在訓(xùn)練集中給出確定類型出現(xiàn)的次數(shù),然后用這個(gè)結(jié)果來除以整個(gè)給定類型數(shù)據(jù)的詞數(shù)。這個(gè)方法我們定義為p:

function p($word, $type)
{
 $count = isset($this->words[$type][$word]) ? $this->words[$type][$word] : 0;
 return ($count + 1) / (array_sum($this->words[$type]) + 1);
}

在本次的訓(xùn)練集中,“is”的是積極類型的概率為0.375。這個(gè)詞在整個(gè)積極的數(shù)據(jù)中的7個(gè)詞中占了兩次,所以結(jié)果就是(2+1)/(7+1)。

最后,這個(gè)算法應(yīng)該只關(guān)心關(guān)鍵詞而忽略其他的因素。一個(gè)簡單的方法就是將給定的字符串中的單詞分離出來:

function getWords($string)
{
 return preg_split('/\s+/', preg_replace('/[^A-Za-z0-9\s]/', '', strtolower($string)));
}

準(zhǔn)備工作都做好了,開始真正實(shí)施我們的計(jì)劃吧!

預(yù)測(cè)

為了預(yù)測(cè)語句的類型,這個(gè)算法應(yīng)該計(jì)算所給定語句的兩個(gè)類型的概率。像上面一樣,我們定義一個(gè)P(Type,sentence)。得出概率高的類型將會(huì)是Classifier類中算法返回的結(jié)果。

為了計(jì)算P(Type,sentence),算法當(dāng)中將用到貝葉斯定理。算法像這樣被定義:P(Type,sentence)= P(Type)* P(sentence,Type)/ P(sentence)。這意味著給定語句的類型概率和給定類型語句概率除以語句的概率的結(jié)果是相同的。

那么算法在計(jì)算每一個(gè)相同語句的P(Tyoe,sentence),P(sentence)是保持一樣的。這意味著算法就可以省略其他因素,我們只需要關(guān)心最高的概率而不是實(shí)際的值。計(jì)算就像這樣:P(Type,sentence) = P(Type)* P(sentence,Type)。

最后,為了計(jì)算P(sentence,Type),我們可以為語句中的每個(gè)詞添加一條鏈?zhǔn)揭?guī)則。所以在一條語句中如果有n個(gè)詞的話,它將會(huì)和P(word_1,Type)* P(word_2,Type)* P(word_3,Type)* .....*P(word_n,Type)是一樣的。每一個(gè)詞計(jì)算結(jié)果的概率使用了我們前面看到的定義。

好了,所有的都說完了,是時(shí)候在php中實(shí)際操作一下了:

function guess($statement)
{
 $words = $this->getWords($statement); // 得到單詞
 $best_likelihood = 0;
 $best_type = null;
 foreach ($this->types as $type) {
 $likelihood = $this->pTotal($type); //計(jì)算 P(Type)
 foreach ($words as $word) {
  $likelihood *= $this->p($word, $type); // 計(jì)算 P(word, Type)
 }
 if ($likelihood > $best_likelihood) {
  $best_likelihood = $likelihood;
  $best_type = $type;
 }
 }
 return $best_type;
}

這就是所有的工作,現(xiàn)在算法可以預(yù)測(cè)語句的類型了。你要做的就是讓你的算法開始學(xué)習(xí):

$classifier = new Classifier();
$classifier->learn('Symfony is the best', Type::POSITIVE);
$classifier->learn('PhpStorm is great', Type::POSITIVE);
$classifier->learn('Iltar complains a lot', Type::NEGATIVE);
$classifier->learn('No Symfony is bad', Type::NEGATIVE);
var_dump($classifier->guess('Symfony is great')); // string(8) "positive"
var_dump($classifier->guess('I complain a lot')); // string(8) "negative"

所有的代碼我已經(jīng)上傳到了GIT上,https://github.com/yannickl88/blog-articles/blob/master/src/machine-learning-naive-bayes/Classifier.php

github上完整php代碼如下:

?php
class Type
{
 const POSITIVE = 'positive';
 const NEGATIVE = 'negative';
}
class Classifier
{
 private $types = [Type::POSITIVE, Type::NEGATIVE];
 private $words = [Type::POSITIVE => [], Type::NEGATIVE => []];
 private $documents = [Type::POSITIVE => 0, Type::NEGATIVE => 0];
 public function guess($statement)
 {
 $words  = $this->getWords($statement); // get the words
 $best_likelihood = 0;
 $best_type = null;
 foreach ($this->types as $type) {
  $likelihood = $this->pTotal($type); // calculate P(Type)
  foreach ($words as $word) {
  $likelihood *= $this->p($word, $type); // calculate P(word, Type)
  }
  if ($likelihood > $best_likelihood) {
  $best_likelihood = $likelihood;
  $best_type = $type;
  }
 }
 return $best_type;
 }
 public function learn($statement, $type)
 {
 $words = $this->getWords($statement);
 foreach ($words as $word) {
  if (!isset($this->words[$type][$word])) {
  $this->words[$type][$word] = 0;
  }
  $this->words[$type][$word]++; // increment the word count for the type
 }
 $this->documents[$type]++; // increment the document count for the type
 }
 public function p($word, $type)
 {
 $count = 0;
 if (isset($this->words[$type][$word])) {
  $count = $this->words[$type][$word];
 }
 return ($count + 1) / (array_sum($this->words[$type]) + 1);
 }
 public function pTotal($type)
 {
 return ($this->documents[$type] + 1) / (array_sum($this->documents) + 1);
 }
 public function getWords($string)
 {
 return preg_split('/\s+/', preg_replace('/[^A-Za-z0-9\s]/', '', strtolower($string)));
 }
}
$classifier = new Classifier();
$classifier->learn('Symfony is the best', Type::POSITIVE);
$classifier->learn('PhpStorm is great', Type::POSITIVE);
$classifier->learn('Iltar complains a lot', Type::NEGATIVE);
$classifier->learn('No Symfony is bad', Type::NEGATIVE);
var_dump($classifier->guess('Symfony is great')); // string(8) "positive"
var_dump($classifier->guess('I complain a lot')); // string(8) "negative"

結(jié)束語

盡管我們只進(jìn)行了很少的訓(xùn)練,但是算法還是應(yīng)該能給出相對(duì)精確的結(jié)果。在真實(shí)環(huán)境,你可以讓機(jī)器學(xué)習(xí)成百上千的記錄,這樣就可以給出更精準(zhǔn)的結(jié)果。你可以下載查看這篇文章(英文):樸素貝葉斯已經(jīng)被證明可以給出情緒統(tǒng)計(jì)的結(jié)果。

而且,樸素貝葉斯不僅僅可以運(yùn)用到文本類的應(yīng)用。希望通過這篇文章可以拉近你和機(jī)器學(xué)習(xí)的一點(diǎn)點(diǎn)距離。

原文地址:https://stovepipe.systems/post/machine-learning-naive-bayes

更多關(guān)于PHP相關(guān)內(nèi)容感興趣的讀者可查看本站專題:《PHP數(shù)據(jù)結(jié)構(gòu)與算法教程》、《php程序設(shè)計(jì)算法總結(jié)》、《php字符串(string)用法總結(jié)》、《PHP數(shù)組(Array)操作技巧大全》、《PHP常用遍歷算法與技巧總結(jié)》及《PHP數(shù)學(xué)運(yùn)算技巧總結(jié)》

希望本文所述對(duì)大家PHP程序設(shè)計(jì)有所幫助。

您可能感興趣的文章:
  • python中文分詞教程之前向最大正向匹配算法詳解
  • PHP實(shí)現(xiàn)的字符串匹配算法示例【sunday算法】
  • 基于PHP實(shí)現(xiàn)棧數(shù)據(jù)結(jié)構(gòu)和括號(hào)匹配算法示例
  • php中最簡單的字符串匹配算法
  • PHP基于二分法實(shí)現(xiàn)數(shù)組查找功能示例【循環(huán)與遞歸算法】
  • PHP基于回溯算法解決n皇后問題的方法示例
  • PHP實(shí)現(xiàn)找出數(shù)組中出現(xiàn)次數(shù)超過數(shù)組長度一半的數(shù)字算法示例
  • php 二維數(shù)組快速排序算法的實(shí)現(xiàn)代碼
  • PHP實(shí)現(xiàn)的貪婪算法實(shí)例
  • PHP實(shí)現(xiàn)的折半查詢算法示例
  • PHP實(shí)現(xiàn)的最大正向匹配算法示例

標(biāo)簽:六安 迪慶 樂山 定西 十堰 海南 佛山 南寧

巨人網(wǎng)絡(luò)通訊聲明:本文標(biāo)題《PHP實(shí)現(xiàn)機(jī)器學(xué)習(xí)之樸素貝葉斯算法詳解》,本文關(guān)鍵詞  PHP,實(shí)現(xiàn),機(jī)器,學(xué),習(xí)之,樸素,;如發(fā)現(xiàn)本文內(nèi)容存在版權(quán)問題,煩請(qǐng)?zhí)峁┫嚓P(guān)信息告之我們,我們將及時(shí)溝通與處理。本站內(nèi)容系統(tǒng)采集于網(wǎng)絡(luò),涉及言論、版權(quán)與本站無關(guān)。
  • 相關(guān)文章
  • 下面列出與本文章《PHP實(shí)現(xiàn)機(jī)器學(xué)習(xí)之樸素貝葉斯算法詳解》相關(guān)的同類信息!
  • 本頁收集關(guān)于PHP實(shí)現(xiàn)機(jī)器學(xué)習(xí)之樸素貝葉斯算法詳解的相關(guān)信息資訊供網(wǎng)民參考!
  • 推薦文章

    上一篇:PHP中利用Telegram的接口實(shí)現(xiàn)免費(fèi)的消息通知功能

    下一篇:PHP實(shí)現(xiàn)單鏈表翻轉(zhuǎn)操作示例