濮阳杆衣贸易有限公司

主頁 > 知識庫 > 使用Go基于WebSocket構(gòu)建千萬級視頻直播彈幕系統(tǒng)的代碼詳解

使用Go基于WebSocket構(gòu)建千萬級視頻直播彈幕系統(tǒng)的代碼詳解

熱門標(biāo)簽:濮陽自動外呼系統(tǒng)代理 賺地圖標(biāo)注的錢犯法嗎 福州鐵通自動外呼系統(tǒng) 烏魯木齊人工電銷機器人系統(tǒng) 廣東語音外呼系統(tǒng)供應(yīng)商 智能電銷機器人營銷 地圖標(biāo)注測試 澳門防封電銷卡 長沙ai機器人電銷

(1)業(yè)務(wù)復(fù)雜度介紹

開門見山,假設(shè)一個直播間同時500W人在線,那么1秒鐘1000條彈幕,那么彈幕系統(tǒng)的推送頻率就是: 500W * 1000條/秒=50億條/秒 ,想想B站2019跨年晚會那次彈幕系統(tǒng)得是多么的NB,況且一個大型網(wǎng)站不可能只有一個直播間!

使用Go做WebSocket開發(fā)無非就是三種情況:

  • 使用Go原生自帶的庫,也就是 golang.org/x/net ,但是這個官方庫真是出了奇Bug多
  • 使用GitHub大佬 gorilla/websocket 庫,可以結(jié)合到某些Web開發(fā)框架,比如Gin、iris等,只要使用的框架式基于 golang.org/net 的,那么這個庫就可以與這個框架結(jié)合
  • 手?jǐn)]一個WebSocket框架

根據(jù)估算結(jié)果,彈幕推送量很大的時候,Linux內(nèi)核將會出現(xiàn)瓶頸,因為Linux內(nèi)核發(fā)送TCP包的時候極限包發(fā)送頻率是100W。因此可以將同一秒內(nèi)的彈幕消息合并為1條推送,減少網(wǎng)絡(luò)小數(shù)據(jù)包的發(fā)送,從而降低推送頻率。

彈幕系統(tǒng)需要維護在線的用戶長連接來實現(xiàn)定向推送到在線的用戶,通常是使用Hash字典結(jié)構(gòu),通常推送消息就是遍歷在線用的Hash字典。在彈幕推送期間用戶在不斷的上下線,為了維護上線用戶,那么就得不斷的修改Hash字典,不斷地進行鎖操作,用戶量過大導(dǎo)致鎖瓶頸。因此可以將整個Hash結(jié)構(gòu)拆分為多個Hash結(jié)構(gòu),分別對多個Hash結(jié)構(gòu)加不同的鎖,并且使用讀寫鎖替代互斥鎖。

通常服務(wù)器與客戶端交互使用JSON結(jié)構(gòu),那么需要不斷的編碼解碼JSON數(shù)據(jù),這將會導(dǎo)致CPU瓶頸。將消息先進行合并,然后進行編碼,最后輪詢Hash結(jié)構(gòu)進行推送。

以上是單體架構(gòu)存在的問題,為了支持更多的用戶負載,通常彈幕系統(tǒng)采用分布式架構(gòu),進行彈性擴容縮容。

(2)推送還是拉???

如果是客戶端拉取服務(wù)器端數(shù)據(jù),那么將會存在以下幾個問題:

  • 直播在線人數(shù)多就意味著消息數(shù)據(jù)更新頻率高,拉取消息意味著彈幕無法滿足時效性
  • 如果很多客戶端同時拉取,那么服務(wù)器端的壓力無異于DDOS
  • 一個彈幕系統(tǒng)應(yīng)該是通用的,因此對于直播間彈幕較少的場景,意味著消息數(shù)據(jù)拉取請求都是無效的

因此我們考慮推送模式:當(dāng)數(shù)據(jù)發(fā)生更新的時候服務(wù)器端主動推送到客戶端,這樣可以有效減少客戶端的請求次數(shù)。如果需要實現(xiàn)消息推送,那么就意味著服務(wù)器端維護大量的長連接。

(3)為什么使用WebSocket?

實現(xiàn)彈幕消息的實時更新一定是使用Socket的方式,那么為啥要使用WebSocket呢?現(xiàn)在大部分直播應(yīng)用的開發(fā)都是跨平臺的,然而跨平臺的開發(fā)框架本質(zhì)就是Web開發(fā),那么一定離不開WebSocket,而且一部分用戶會選擇在Web端看視頻,比如Bilibili,現(xiàn)如今也有一些桌面應(yīng)用是用Electron等跨平臺框架開發(fā)的,比如Lark飛書等,因此實現(xiàn)消息推送的最佳方案就是使用WebSocket。

使用WebSocket可以輕松的維持服務(wù)器端長連接,其次WebSocket是架構(gòu)在HTTP協(xié)議之上的,并且也可以使用HTTPS方式,因此WebSocket是可靠傳輸,并且不需要開發(fā)者關(guān)注底層細節(jié)。

為啥要使用Go搞WebSocket呢?首先說到WebSocket你可能會想到Node.js,但是Node.js是單線程模型,如果實現(xiàn)高并發(fā),不得不創(chuàng)建多個Node.js進程,但是這又不容易服務(wù)端遍歷整個連接集合;如果使用Java就會顯得比較笨重,Java項目的部署,編寫Dockerfile都不如Go的目標(biāo)二進制更加簡潔,并且Go協(xié)程很容易實現(xiàn)高并發(fā),上一章說到Go語言目前也有成熟的WebSocket輪子。

(4)服務(wù)端基本Demo

首先搭建好一個框架:

package main

import (
  "fmt"
  "net/http"
)

func main() {
 fmt.Println("Listen localhost:8080")
   // 注冊一個用于WebSocket的路由,實際業(yè)務(wù)中不可能只有一個路由
  http.HandleFunc("/messages", messageHandler)
  // 監(jiān)聽8080端口,沒有實現(xiàn)服務(wù)異常處理器,因此第二個參數(shù)是nil
  http.ListenAndServe("localhost:8080", nil)
}

func messageHandler(response http.ResponseWriter, request *http.Request) {
  // TODO: 實現(xiàn)消息處理
  response.Write([]byte("HelloWorld"))
}

然后完善messageHandler函數(shù):

func messageHandler(response http.ResponseWriter, request *http.Request) {
  var upgrader = websocket.Upgrader{
    // 允許跨域
    CheckOrigin: func(resquest *http.Request) bool {
      return true
    },
  }

  // 建立連接
  conn, err := upgrader.Upgrade(response, request, nil)
  if err != nil {
    return
  }

  // 收發(fā)消息
  for {
    // 讀取消息
    _, bytes, err := conn.ReadMessage()
    if err != nil {
      _ = conn.Close()
    }
    // 寫入消息
    err = conn.WriteMessage(websocket.TextMessage, bytes)
    if err != nil {
      _ = conn.Close()
    }
  }
}

現(xiàn)在基本上實現(xiàn)了WebSocket功能,但是websocket的原生API不是線程安全的(Close方法是線程安全的,并且是可重入的),并且其他模塊無法復(fù)用業(yè)務(wù)邏輯,因此進行封裝:

  • 封裝Connection對象描述一個WebSocket連接
  • 為Connection對象提供線程安全的關(guān)閉、接收、發(fā)送API
// main.go
package main

import (
  "bluemiaomiao.github.io/websocket-go/service"
  "fmt"
  "net/http"

  "github.com/gorilla/websocket"
)

func main() {
  fmt.Println("Listen localhost:8080")
  http.HandleFunc("/messages", messageHandler)
  _ = http.ListenAndServe("localhost:8080", nil)
}

func messageHandler(response http.ResponseWriter, request *http.Request) {
  var upgrader = websocket.Upgrader{
    // 允許跨域
    CheckOrigin: func(resquest *http.Request) bool {
      return true
    },
  }

  // 建立連接
  conn, err := upgrader.Upgrade(response, request, nil)
  wsConn, err := service.Create(conn)
  if err != nil {
    return
  }

  // 收發(fā)消息
  for {
    // 讀取消息
    msg, err := wsConn.ReadOne()
    if err != nil {
      wsConn.Close()
    }
    // 寫入消息
    err = wsConn.WriteOne(msg)
    if err != nil {
      _ = conn.Close()
    }
  }
}
// service/messsage_service.go
package service

import (
  "errors"
  "github.com/gorilla/websocket"
  "sync"
)

// 封裝的連接對象
// 
// 由于websocket的Close()方法是可重入的,所以可以多次調(diào)用,但是關(guān)閉Channel的close()
// 方法不是可重入的,因此通過isClosed進行判斷
// isClosed可能發(fā)生資源競爭,因此通過互斥鎖避免
// 關(guān)閉websocket連接后,也要自動關(guān)閉輸入輸出消息流,因此通過signalCloseLoopChan實現(xiàn)
type Connection struct {
  conn                  *websocket.Conn  // 具體的連接對象
  inputStream             chan []byte       // 輸入流,使用Channel模擬
  outputStream           chan []byte       // 輸出流,使用chaneel模擬
  signalCloseLoopChan     chan byte       // 關(guān)閉信號
  isClosed               bool            // 是否調(diào)用過close()方法
  lock                   sync.Mutex      // 簡單的鎖
}

// 用于初始化一個連接對象
func Create(conn *websocket.Conn) (connection *Connection, err error) {
  connection = Connection{
    conn:              conn,
    inputStream:        make(chan []byte, 1000),
    outputStream:       make(chan []byte, 1000),
    signalCloseLoopChan: make(chan byte, 1),
    isClosed:            false,
  }

  // 啟動讀寫循環(huán)
  go connection.readLoop()
  go connection.writeLoop()
  return
}

// 讀取一條消息
func (c *Connection) ReadOne() (msg []byte, err error) {
  select {
  case msg = -(*c).inputStream:
  case -(*c).signalCloseLoopChan:
    err = errors.New("connection is closed")
  }
  return
}

// 寫入一條消息
func (c *Connection) WriteOne(msg []byte) (err error) {
  select {
  case (*c).outputStream - msg:
  case -(*c).signalCloseLoopChan:
    err = errors.New("connection is closed")
  }
  return
}

// 關(guān)閉連接對象
func (c *Connection) Close() {
  _ = (*c).conn.Close()
  (*c).lock.Lock()
  if !(*c).isClosed {
    close((*c).signalCloseLoopChan)
  }
  (*c).lock.Unlock()

}

// 讀取循環(huán)
func (c *Connection) readLoop() {
  // 不停的讀取長連接中的消息,只要存在消息就將其放到隊列中
  for {
    _, bytes, err := (*c).conn.ReadMessage()
    if err != nil {
      (*c).Close()
    }
    select {
    case -(*c).signalCloseLoopChan:
      (*c).Close()
    case (*c).inputStream - bytes:
    }
  }
}

// 寫入循環(huán)
func (c *Connection) writeLoop() {
  // 只要隊列中存在消息,就將其寫入
  var data []byte
  for {
    select {
    case data = -(*c).outputStream:
    case -(*c).signalCloseLoopChan:
      (*c).Close()
    }
    err := (*c).conn.WriteMessage(websocket.TextMessage, data)
    if err != nil {
      _ = (*c).conn.Close()
    }
  }
}

至此,你已經(jīng)學(xué)會了如何使用Go構(gòu)建WebSocket服務(wù)。

到此這篇關(guān)于使用Go基于WebSocket構(gòu)建千萬級視頻直播彈幕系統(tǒng)的代碼詳解的文章就介紹到這了,更多相關(guān)go WebSocket視頻直播彈幕內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!

您可能感興趣的文章:
  • golang 實現(xiàn)tcp server端和client端,并計算RTT時間操作
  • golang websocket 服務(wù)端的實現(xiàn)
  • golang socket斷點續(xù)傳大文件的實現(xiàn)方法
  • golang基于websocket實現(xiàn)的簡易聊天室程序
  • golang網(wǎng)絡(luò)socket粘包問題的解決方法
  • Golang 實現(xiàn)Socket服務(wù)端和客戶端使用TCP協(xié)議通訊

標(biāo)簽:西雙版納 阿克蘇 調(diào)研邀請 太原 貴陽 德州 廣西 慶陽

巨人網(wǎng)絡(luò)通訊聲明:本文標(biāo)題《使用Go基于WebSocket構(gòu)建千萬級視頻直播彈幕系統(tǒng)的代碼詳解》,本文關(guān)鍵詞  使用,基于,WebSocket,構(gòu)建,;如發(fā)現(xiàn)本文內(nèi)容存在版權(quán)問題,煩請?zhí)峁┫嚓P(guān)信息告之我們,我們將及時溝通與處理。本站內(nèi)容系統(tǒng)采集于網(wǎng)絡(luò),涉及言論、版權(quán)與本站無關(guān)。
  • 相關(guān)文章
  • 下面列出與本文章《使用Go基于WebSocket構(gòu)建千萬級視頻直播彈幕系統(tǒng)的代碼詳解》相關(guān)的同類信息!
  • 本頁收集關(guān)于使用Go基于WebSocket構(gòu)建千萬級視頻直播彈幕系統(tǒng)的代碼詳解的相關(guān)信息資訊供網(wǎng)民參考!
  • 推薦文章
    台北县| 绵竹市| 公安县| 绥滨县| 广德县| 绵阳市| 自治县| 蕉岭县| 淮阳县| 博爱县| 柳河县| 木里| 雷州市| 绥棱县| 凤庆县| 文成县| 新巴尔虎右旗| 沁阳市| 安龙县| 潼关县| 梨树县| 临沧市| 岑巩县| 镇安县| 阳泉市| 淮安市| 泌阳县| 昌平区| 垣曲县| 循化| 湘潭市| 聂拉木县| 东城区| 会宁县| 五大连池市| 华池县| 安龙县| 济南市| 新竹县| 鄂伦春自治旗| 久治县|